6 月 18 日，国家金融监督管理总局发布《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称「8 号文」。）

这份文件共八部分、三十二项，内容覆盖治理架构、模型开发、数据治理、算力建设、风险管理、外包管理、消费者保护和监管监督等多个层面，为银行保险业人工智能应用划出了一套清晰边界。

这意味着，金融 AI 的责任线，已然划下。

AI 其实是公司治理问题

理解这份文件，首先要读懂：

坚持 " 谁使用谁负责 "。

文件在总体要求中提出，要压实金融机构作为金融服务提供方、人工智能技术使用方的主体责任。

也就是说，无论模型来自自研，还是来自外部技术公司，只要用于金融业务，最终责任都在金融机构身上。

文件第（一）项提出：

开发应用人工智能的金融机构，董（理）事会应指定专门委员会对人工智能开发应用管理负责，统筹制定发展规划，推进能力体系建设，制定制度规范，并明确牵头部门和跨业务、科技、数据职能部门的协同机制。

这说明，监管并不把 AI 视为一个单纯的科技工具，而是将其纳入公司治理体系，涉及战略规划、组织架构、风险管理和责任追溯。

文件第（二）项进一步提出：

金融机构应建立覆盖 " 需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出 " 的人工智能全生命周期管理体系，并加强数据安全评估、算法风险筛查、伦理审查评估和责任追溯机制建设。

这是否意味着，金融机构未来在智能客服、智能投研、智能理赔、金融智能体上线方面，要规范模型研发、应用及资产管理，加强安全评估、伦理审查、责任追溯机制建设，对人工智能应用进行分级分类管理，并实施针对性的差异化管控措施。

对保险公司而言，这一点尤其重要。

保险业务本身链条长、期限长、责任复杂，从销售解释、健康告知，到核保、理赔、续期服务，再到健康管理、养老服务和资产配置，任何一个环节的信息偏差，都可能在多年之后转化为纠纷。

不是所有场景都适合 AI

文件第（三）项提出：

金融机构应按照应用场景与技术适配原则，加强人工智能算法评估，将合适的人工智能技术应用于适当的业务场景，并科学设定人工智能的功能边界、系统和数据权限。

" 一套 AI 打天下 "，显然并不适合金融行业。

毕竟，不同金融业务的风险等级完全不同。内部知识检索、材料整理、会议纪要、客服辅助，与信贷审批、承保理赔、资金交易、资产评估，显然不是一个风险层级。

如果 AI 只是帮助员工整理材料，风险相对有限；如果 AI 开始影响客户能否投保、理赔能否通过、贷款能否审批、投资策略如何执行，那么它就进入了金融核心决策链条，必须接受更严格约束。

文件第（五）项进一步提出：

支持金融机构在风险可控的前提下，推进生成式人工智能技术的业务应用和配套能力体系建设，稳妥探索人工智能技术研发和金融智能体建设。

这是一个积极信号。

但第（五）项紧接着提出：

金融机构对生成式人工智能模型要实施准入管理，评估模型效能及安全合规性；外部引入的生成式人工智能模型需经过网信部门备案。

这意味着，金融机构必须对模型能力、安全性、合规性和适配性进行准入评估。

此外，监管部门还特别强调，要摒弃 " 为新而新、为用而用 " 的倾向。

的确，过去一段时间，不少金融机构热衷于发布大模型、智能体、数字员工，但真正进入业务流程、改善经营质量和客户体验的并不多。

任何技术，需要真正服务业务价值和风险管理。

高风险应用，是最硬的监管边界

如果说前面的条文解决的是 " 谁来管 "" 怎么用 "，那么文件第（十四）项至第（十七）项，则直接划出了高风险应用的边界。

文件第（十四）项提出：

金融机构应将人工智能风险纳入全面风险管理体系，防范模型生成结果不可靠风险，防止模型黑箱导致关键业务流程难落责问题。

生成式 AI 最常见的问题，是输出内容看似合理，实则可能并不准确。在一般场景中，这可能只是信息错误；但在金融场景中，错误可能直接影响客户权益、机构风险和市场秩序。

文件第（十五）项进一步提出：

金融机构应根据业务场景重要性、应用规模、对客影响度、模型依赖度、模型复杂度等因素，对人工智能应用进行风险识别和分类分级管理。

显然，监管并不是要求所有 AI 应用都按最高标准管理，而是要求机构先分清风险等级。内部提效类应用、对客服务类应用、核心决策类应用，风险不同，管控强度也应不同。

文件第（十六）项则明确：

涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用，应被视为高风险应用。

这一条对保险业尤其关键。

承保、理赔、风险管理，被监管直接列为高风险应用。

这意味着，AI 可以辅助核保、辅助理赔、辅助识别欺诈风险，但不能在缺乏解释、复核和责任安排的情况下，直接成为最终裁判。

比如，AI 可以帮助整理客户健康告知材料，可以识别理赔材料中的异常信息，可以辅助判断某类风险是否需要进一步人工审核。

但客户能不能承保、理赔能不能赔、赔多少，这些都涉及保险合同责任和客户权益，不能被一个不可解释的模型结果直接决定。

文件第（十六）项提出：

人工智能高风险应用须经本机构风险管理委员会批准后方可实施。

换言之，只要进入高风险场景，就必须经过风险管理委员会批准。

文件第（十七）项提出：

金融机构要加强对人工智能在业务场景中的运行监测，及时发现和管控模型风险；在高风险应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程。

这意味着，越是高风险场景，越需要高频甚至是实时的监测。

这对保险公司未来使用 AI 做承保、理赔、客服、销售辅助和风险管理，都是硬约束。AI 可以提高效率，但不能让机构失去人工接管能力。

知识工程才是金融 AI 的底座

AI 能力的基础，不只是模型，更是数据和知识。

文件第（八）项提出：

金融机构要构建企业级数据模型和数据资产地图，强化元数据管理，确保数据可寻可用，不同类型的数据可兼容，数据源头可追溯。

这一条说明，监管已经看到金融 AI 最基础的问题：

金融机构并不缺数据，但很多数据的质量，未必可用、能用。

保险公司尤其如此。

客户信息、保单信息、健康告知、理赔材料、医疗资料、服务记录、投诉记录、代理人展业记录、投资数据、风控数据，长期积累非常丰富。但数据多，不等于数据质量高；数据沉淀久，也不等于能直接用于 AI 训练和业务应用。

文件第（九）项提出：

金融机构应针对人工智能业务场景持续推进高质量数据集建设，确立数据质量标准，确保数据准确性、相关性、一致性、完整性和无偏见，并持续监测数据分布漂移。

如果历史数据本身存在偏差，AI 模型就会继承甚至放大偏差。

比如某些群体样本不足、某类理赔数据不完整、不同来源的健康数据标准不一致，都可能影响模型判断。AI 不是天然客观，数据有偏，模型也会有偏。

文件第（十）项提出：

支持金融机构间依法合规开展数据集共享。

这意味着，监管也看到了行业共建高质量数据集的可能性。对于中小机构而言，单家机构的数据、人才和算力有限，未来行业级、场景级数据集共建，可能成为提高 AI 应用能力的一条现实路径。

更值得关注的是文件第（十一）项。

支持金融机构构建企业级知识管理体系，构建核心知识模型，建立知识萃取、整合、共享机制流程，并建立从知识创建、审核、发布、更新到归档的全流程管理规范。

金融 AI 不能只靠通用大模型。

通用大模型可以生成文本，但未必真正理解保险条款、核保规则、理赔标准、医学定义、销售合规要求和利益演示边界。

保险公司真正可用的 AI，必须建立在自身知识体系之上。

比如，某款产品的保证利益和非保证利益如何区分，哪些表达不能用于销售，哪些客户问题必须转人工，哪些理赔场景不能给出确定性结论，哪些健康告知信息需要进一步核实。

这些都不是通用大模型天然具备的能力，而需要机构通过知识工程持续沉淀、审核和更新。

所以，金融 AI 的竞争，不只是模型能力的竞争，更是专业知识数字化能力的竞争。

透明、可解释、可追溯

亦是消费者保护的新要求

AI 进入金融业务后，消费者保护也会出现新的问题。

保险产品本就复杂，尤其是分红险、万能险、长期医疗险、养老年金、健康险等产品，涉及保证利益、非保证利益、等待期、除外责任、现金价值、健康告知、续保条件等多个概念。客户最容易产生误解的地方，往往不是信息的缺失，而是信息的解释环节。

如果 AI 生成的产品解释不准确，或者把不确定收益说得过满，把免责条款说得过轻，就可能放大销售误导风险。

再说了，客户有权知道自己面对的是 AI 生成内容，机构也必须对这些内容负责。

因此，文件第（二十一）项提出：

金融机构应加强人工智能应用透明度管理，为高风险场景应用制定透明度和可解释性标准，明确模型设计、数据使用、特征选择及输出结果的逻辑。对人工智能生成内容应进行显著标识，并向金融消费者主动说明。

文件第（二十二）项进一步提出：

可解释性不足的人工智能技术在高风险场景应用时，仅能作为辅助工具，应由人工进行最终决策。人工智能模型应用于涉及客户权益或有实质性财务影响的关键决策时，须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录，确保责任可追溯。

在保险场景中，AI 可以辅助代理人做产品分析，可以辅助客服回答问题，可以辅助理赔人员整理材料 ......

但在涉及客户权益的关键决策中，必须保留人工复核和推理记录，否则，一旦发生争议，机构无法解释模型为什么这样判断，也无法证明当时的决策依据。

除了销售误导，保险业务天然会接触大量个人信息、健康信息、家庭信息和财务信息。这尤其敏感。

文件第（二十三）项提出，金融机构应建立人工智能开发应用伦理审查监测制度，避免算法歧视等不公平性问题。

文件第（二十四）项则明确，姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型训练和优化。

外部模型可以合作

但责任和风险必须「自留」

当前金融机构使用 AI，很多时候离不开外部技术公司、模型厂商、云服务商和系统集成商。此次文件，对外部模型、外包合作和供应链安全提出了明确要求。

文件第（十八）项提出：

使用外部人工智能技术时，金融机构应在外包策略、数据安全、集中度管理等方面建立管理机制，通过合同协议明确安全管理方面的权责义务。与外部企业开展合作时，应建立有效的风险隔离 " 防火墙 "，防范风险跨业传递。

如果外部模型进入客服、营销、理赔、风控、投研等系统，影响的不只是技术效率，还可能影响客户数据安全、业务连续性、模型偏差和机构责任边界。

文件第（十八）项还提出：

对外包合作机构实行名单制管理，对引入的外部模型建立严格的内部评估框架，有效评价模型的优缺点和适配性。

这意味着，金融机构不能简单相信供应商宣称的模型能力，而要建立自己的评估标准。模型适不适合本机构业务，都必须由金融机构自己判断。

文件第（十九）项进一步提出：

金融机构要建立对人工智能算力、模型、数据、技术工具等的供应链安全合规管理机制，防范对个别技术服务过度依赖引发的集中度风险；同时要完善开源技术使用规范，建立开源软件管理台账，加强代码审计、漏洞扫描及安全测试，防范供应链投毒。

显然，监管已经把 AI 风险从模型本身，扩展到了整个供应链。

对保险机构来说，未来使用外部 AI 工具，不能只看生成效果和采购价格，更要看是否存在过度依赖、数据泄露、系统中断、开源漏洞和权限失控等风险。

外部技术可以借力，但主体责任，不能外包。

智能体越「聪明」，越要防止失控

生成式 AI 之后，金融机构开始探索智能体。相比普通问答系统，智能体的风险更高，因为它不只是生成内容，还可能调用工具、连接系统、读取数据，甚至触发业务流程。

文件第（二十五）项提出：

金融机构要防范提示词注入、思维链注入、多模态攻击、上下文污染等威胁，并提升智能体系统安全保障能力，防范数据泄露、记忆污染、身份越权、工具滥用、运行失控等安全风险。

在保险业务中，智能体未来可能用于客户服务、代理人辅助、理赔资料流转、续期提醒、健康管理服务调度等场景。一旦智能体拥有系统权限，就必须明确它能看什么、能做什么、不能做什么、谁来审核、出错后如何停止。

文件第（二十六）项提出：

金融机构要将人工智能应用纳入业务连续性管理体系，发生故障时，人工流程要及时介入或启用备份系统，保障人工智能应用稳定性、可靠性。

这说明，监管并不允许金融机构把关键流程完全交给 AI。越是重要场景，越要有备用方案和人工接管能力。

面向公众和高风险场景

AI 应用将进入监管视野

文件第（二十九）项提出：

金融机构面向公众服务或高风险场景应用使用生成式人工智能技术的，应向金融监管总局或其派出机构报告。

这一项释放了明确监管信号。

金融机构使用生成式 AI 服务客户，尤其是在高风险场景中使用，不再只是机构内部事项，而要进入监管视野。

比如智能客服面向公众回答产品问题，AI 辅助销售解释保障责任，AI 参与承保理赔判断，都可能触发更高层级的监管关注。

文件第（二十九）项还提出，监管部门要建立监测预警与处置机制，做好事前、事中、事后全链条风险防控。

文件第（三十）项进一步提出，要建立对监管政策和监管效果的年度评估机制，重点加强高风险场景应用监管。

如是，随着技术变化和应用深化，监管工具、监管标准和监管要求还会继续调整。

毕竟，金融行业的特殊性决定了，任何的技术应用，都不能只讲效率，必须守住合规的底线。