AI（人工智能）与数据安全的融合博弈已进入白热化阶段，海内外科技巨头近期密集发布核心方案，推动行业从被动防御向主动治理转型。

" 燃料（数据）质量决定了引擎（AI）的上限，垃圾数据喂不出优质模型。" 安恒信息技术股份有限公司数据安全运营总监程文博，在 "2025 全球数商大会 " 普陀分会场接受《每日经济新闻》记者采访时，以谷歌近期热门的 NoteBook LM 举例称，其降低幻觉的核心在于高质量知识库输入，反之则会陷入 " 垃圾进垃圾出 " 的困境。

Gartner 高级研究总监陈延全在今年 9 月曾经指出：" 到 2027 年，60% 的中国大型企业机构将在安全运营中心（SOC）采用暴露面管理技术，以提高事件响应效率并减少漏洞；到 2028 年，60% 部署 AI 技术的中国企业机构将采用协作式 AI 防御策略，整合跨职能团队来应对 AI 的网络安全风险，而目前这一比例仅为 5%。"

海外阵营中，谷歌在 Next 2025 大会推出 AI Protection 全生命周期防护方案。OpenAI 也发布开源模型 GPT-OSS-Safeguard-20B，将合规落地周期从月级缩至小时级。

两大巨头的动作直指 AI 安全核心痛点，而这一切解决方案的落地，终究离不开大模型与数据的深度协同——大模型与数据的关系，被业内人士喻为 " 火箭引擎与燃料 "。

在程文博看来，AI 大模型的进化依赖于高质量的数据支撑，同时，AI 也将进一步优化目前的数据安全保护体系，精准预测、处理网络安全威胁。

" 安全与利用的平衡 " 成核心关键词

"AI 对数据安全的赋能，从来不是单向输出。" 程文博表示，这一关系包含两个核心维度：让安全更智能，让智能更安全。前者是技术迭代的自然延伸，后者则是新场景催生的新责任。

程文博介绍，数据安全分类分级曾是耗时耗力的 " 重活 "，人工标注不仅效率低下，还易因主观判断出现偏差。AI 技术的介入改变了这一现状，通过算法对数据特征的精准识别，分类分级效率提升超 3 倍，准确率也稳定在 95% 以上。

同样，在 API（应用程序编程接口）安全领域，API 安全智能体通过对接口报文、路径及敏感数据的要素解构，结合聚类分析和大模型推理技术，能过滤非 API 资产，完成 API 资产的高精度梳理，输出高纯度的资产清单。

" 智能体通过识别 API 中的业务数据，并结合行业特点赋予接口精准的业务属性标签，有效提升了资产管理的深度与广度。" 他告诉记者，在风险监测与降噪方面，智能体通过大模型计算实现自动化风险降噪，同时根据风险类型、报文特征及上下文信息提供智能化解读与综合处置建议，帮助安全团队精准定位并快速响应潜在威胁。

" 这些升级并非停留在实验室，而是已转化为面向金融、政务等行业的成熟解决方案。" 程文博说。

但与此同时，大模型的爆发式增长，也带来了提示词注入攻击、输出内容不当等新风险。

" 政府部门用大模型向公众提供服务，总不能出现违规表述吧？" 程文博举例道。安恒信息的应对方案，是通过语义识别与风险拦截技术，为大模型搭建 " 电子围栏 / 大模型安全防火墙 "。这套系统能实时监测输出内容，对敏感信息、不当表述进行拦截或修正，目前已在部分政务服务场景试点应用。

当话题转向数据要素市场化改革，" 安全与利用的平衡 " 成为核心关键词。

" 安全是发展的前提，没有安全，数据就流不动、用不好。" 程文博表示，目前业内的破局路径分为两步：筑牢安全底线，打通利用通道。

在安全保障端，业内头部厂商的产品已覆盖数据全生命周期管理；在利用赋能端，隐私保护计算技术成为关键抓手。通过 " 数据可用不可见 " 的技术特性，有效解决了企业间数据共享的信任难题。

针对中小微企业数字化转型中的合规痛点，程文博坦言，数据安全分类分级是数据安全的第一步，但传统方案成本高、部署复杂，让不少小企业望而却步。

数字信任：如何重构隐私保护边界？

"AI 与数据的融合不是简单的技术叠加，而是数字经济双循环的核心动力。" 在 "2025 全球数商大会 " 普陀分会场 " 数字经济双循环发展视角下的数字信任与安全合规 " 圆桌对话上，上海社科院互联网研究中心主任惠志斌开场抛出的议题，引发全场共鸣。

政务领域的技术实践成为首个破题案例。上海市大数据中心副主任王明政分享了中心的实践：用大模型破解代码审计的 " 高成本困局 "。

传统代码审计依赖人工，效率低下且漏检率高。上海市大数据中心通过两种路径构建数据集——采集历史安全漏洞代码，同时用大模型生成模拟漏洞代码，以此训练专用审计模型。

" 虽然还在摸索阶段，但已能将部分场景的审计效率提升 30%。" 王明政同时警示，大模型的 " 幻觉 " 风险不容忽视，网络上大量由 AI 生成的 " 全能化赋能 " 文章，恰恰暴露了技术落地中的认知偏差。

隐私保护的边界重构，成为全场热议的焦点。

王明政观察到全球监管的微妙变化：欧洲近期提案放松 GDPR（通用数据保护条例）对大模型训练数据的限制，将高风险 AI 法规实施时间推迟 18 个月，背后是 " 技术竞争与监管平衡 " 的深层考量。而国内场景更复杂——会议拍照无需明确同意、线上线下隐私认知差异等现象，正倒逼监管逻辑升级。

全链条监管技术正在填补漏洞。

针对数据可复制、难追溯的特性，公安部第三研究所数据安全中心副主任盛小宝透露了两大技术方向：数据水印可实现交易后溯源，即便数据用于模型训练也能精准定位；模型指纹则能识别 " 备案与实际使用不符 " 的违规行为，此前某聊天 App 备案 DeepSeek 模型，实际却使用微调后并产生擦边内容，正是通过该技术发现。

" 安全不是一劳永逸的，要建立政府、企业、研究院三位一体的情报共享生态。" 他以供应链安全情报共享为例，强调协同防御的重要性。

产业生态的构建则为技术落地提供了土壤。上海市普陀区数据局局长张军表示，产业集聚是普陀区的核心优势。虽然缺乏单一头部巨头，但数量众多的中小安全企业形成了集群效应。360 安全、安恒信息等企业扎根于此，京东科技、淘宝闪购、饿了么等数字企业也在此深耕，构成了 " 安全服务 + 数字应用 " 的完整产业生态。这种生态优势，在数据要素流通中转化为独特竞争力——安全企业为数字应用提供防护，数字应用为安全企业提供场景，形成双向赋能的闭环。

每日经济新闻