天融信官微 3小时前
天融信入选AI安全代表厂商,典型案例入编《AI大模型安全评估与防护技术应用指南》
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

近日,安全牛发布《AI 大模型安全评估与防护技术应用指南》报告(以下简称 " 报告 "),从全生命周期(883436)视角拆解大模型面临的风险,为企业提供可落地、可评估、可运营的 AI 安全实践方案。天融信(002212)入选国内主流 AI 安全代表厂商,《大模型纵深防御体系护航环保行业智算安全创新发展》入编典型应用案例。

报告指出,以 " 单体智能 " 为核心的大模型应用开始向 " 生态智能系统 " 演进。随着 AI 系统复杂度不断上升,AI 安全也进入了风险集中暴露与高频爆发阶段,风险态势日趋严峻。模型测评、安全防护和安全审计,是当前企业 AI 安全落地的三个重要抓手。企业需结合具体业务进行风险动态治理,持续改进防护,让 AI 系统在企业环境中可信、可控、可审计地运行。

★全链路智能体安全保障★

实现全域风险协同管控

随着场景复杂度的递进,智能体安全防护思路须从 " 单点拦截 " 转向 " 全链路闭环治理 "。天融信(002212)从 AI 应用防护出发,围绕 " 一个中心统筹、六大能力支撑 ",构建了面向智能体全生命周期(883436)安全保障体系。以大模型安全运营中心为统一中枢,统筹协同全域安全能力,联动基础设施与云原生、供应链、平台框架、运行时模型安全、应用交互接入、综合保障六大能力,打通安全监测、研判、处置全流程,实现全域风险协同管控。

底座安全层:基于大模型数据安全(885942)监测系统,对基础设施、云原生环境及供应链开展持续安全监测,保障运行环境、导入组件可信可控。

运行安全层:以大模型安全评估系统、API 安全审计系统为支撑,覆盖平台框架、运行时模型安全两大领域,实现智能体全运行流程安全管控。

入口安全层:依托大模型安全网关实现统一接入防护,防御提示词注入、筛查多模态内容、规范价值导向、阻断敏感数据外泄,筑牢应用交互接入安全防线。

依托底座安全层、运行安全层、入口安全层的协同联动,方案实现了从评估到防护、从入口到内部、从模型到数据的全链路安全覆盖,为复杂业务场景下的智能体运行提供系统化安全保障。

★全栈产品矩阵★

覆盖测评、防护、审计全场景

前置测评筑牢 AI 准入防线

大模型安全评估系统:采用 " 评估模型 + 被测模型 " 双模型对抗架构,以 "AI 对抗 AI" 的方式实现大模型应用风险治理,构建适配性强、覆盖全、迭代快的风险测评题集,高效识别被测模型在伦理对齐、数据隐私、提示注入、模型幻觉、鲁棒性等核心维度的潜在风险,为大模型、智能体等 AI 应用的安全合规治理提供自动化、智能化的技术支撑。

智能体安全评估服务:针对智能体及相关插件、技能包,以人工调研和配置查验的方式,从基础环境、身份认证、配置模型、插件管理、数据安全(885942)、漏洞管理、日志监控七大方面开展全面评估,识别各环节安全隐患,助力搭建安全管控机制。

多层级防护打造一体化 AI 安全体系

大模型安全网关:运用大模型多层级安全防护理念,内置预训练安全检测模型,提供提示词注入攻击防御、多模态内容检测、价值观内容过滤、敏感数据防泄漏四项核心防护能力,打造集大模型内容安全防护、应用安全、网络安全(885459)、API 安全于一体的安全防护体系。产品部署于大模型应用前端,是国内率先通过公安三所增强级认证的安全围栏产品。

多维审计支撑 AI 合规落地

API 安全审计系统:聚焦智能体 API 调用安全,通过 " 发现—审计—处置 " 三阶段闭环,构建覆盖接口访问监测、逻辑漏洞发现及敏感数据防护的全方位安全保障。入口围栏与 API 审计配合,形成从外部防护到内部审计的纵深安全能力。

大模型数据安全(885942)监测系统:聚焦大模型全生命周期(883436)各阶段,深度融合协议解析与内容识别技术,通过内置海量安全知识库,对数据、模型、应用、网络等多方面安全风险进行精准监测与管控,实现多维度安全模块协同,解决大模型面临的数据安全(885942)风险、各类攻击风险及监管合规问题。

★打造标杆案例★

护航环保智算安全建设

依托双碳战略与产业数字化转型趋势,某国有控股环保公司部署通用大模型、搭建专属智算平台,赋能环保业务智慧精细化升级。天融信(002212)为其打造从覆盖基础设施到大模型应用全层级的 AI 安全整体解决方案,构建 " 防护 - 监测 - 审计 - 处置 " 安全闭环。方案以大模型安全网关、大模型数据安全(885942)监测系统为核心,结合防火墙等边界安全设备补齐基础设施安全短板,全方位保障大模型安全、合规、稳定运行。

项目构建了基于人工智能(885728)的安全防御能力,可快速识别并阻断攻击流量,对输入输出内容进行风险识别与过滤,防止恶意内容及敏感信息泄露。同时,通过建立完善的权限管理、访问控制和加密传输机制,确保数据在全流程中的安全性与合规性,有力支撑 AI 大模型在运营管理、生产决策等环节的安全可靠应用,护航企业数智化转型稳步推进。

《智能体规范应用与创新发展实施意见》明确指出 " 坚持安全可控,将智能体安全、可靠、可信作为发展的底线要求,贯穿智能体技术研发、应用部署与推广的全过程 "。未来,天融信(002212)将坚持安全与智算并进,积极推动人工智能(885728)与实体经济的深度融合,助力各行业大模型、智能体落地,为千行百业数智化转型贡献力量。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 审计 云原生 供应链 统筹
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论