人工智能作为引领新一轮科技革命和产业变革的核心引擎,正深刻重塑全球创新版图与产业发展范式。其广泛应用在创造巨大价值的同时,也带来了不容忽视的安全风险与治理难题,如何筑牢安全防线、推动 AI 健康有序发展,已成为全球性议题。近日,在世界互联网大会亚太峰会上,中国网络安全领军企业天融信科技集团 ( 002212 ) 高级副总裁晋钢分享了行业实践与治理经验。
" 大模型已从训练走向应用,其广泛应用正在重塑网络安全格局,并随之带来多方面的安全风险。" 晋钢指出,这些风险主要集中在系统、数据、模型及应用四个层面。为应对这些挑战,他提出强化算力平台安全运维、严格数据质量管理、提升模型可解释性及全流程安全开发,并构建模型运行防护机制与动态安全护栏等解决措施。
在此基础上,他进一步强调了三项实践原则,一是强化全生命周期管控,实现模型生命周期快速部署安全防护;二是以人工智能赋能安全,用安全大模型保护大模型安全;三是构建体系化立体防御,以体系化安全保障大模型应用。
据他介绍,天融信基于多年技术深耕,目前已构建 "1 个中心 +3 大能力 +X 项标准化防护 " 的完整大模型安全防护体系,覆盖大模型训练、部署、推理全流程,提供资产梳理、漏洞检测、数据防护、行为审计、应急响应等一站式能力,应对智能体时代各类安全威胁。同时,天融信持续推进技术产品创新,发布大模型多模态安全网关、API 安全审计、大模型安全评估等核心产品,实现对智能体全流程管控,已在政府、金融、能源、医疗等多行业落地验证。
在圆桌对话环节,晋钢谈到当前安全智能体的应用主要分为通用型、行业型、定制型三种不同类型,均对准确性要求极高,需要依托垂域大模型进行能力支撑。
" 对于当前企业引入智能体存在的风险以及安全防护,建议将智能体纳入企业 IT 统一管理,规避‘影子智能体’风险。" 晋钢表示,企业还应该明确业务目标,限制行为与权限;守住敏感资产和数据底线,跟进漏洞升级,同时强化多维度防护。
此外,晋钢还重点介绍了天融信在香港的战略布局。他表示,公司将香港视为拓展国际市场的重要窗口。天融信自 2021 年开始布局香港,目前已服务多家香港金融机构并提供网络攻防培训与赛事支撑,获得客户一致认可。同时,天融信依托内地运营商合作基础正与香港主流运营商探索合作,还与香港多所大学及教育机构,在安全防护、人才培养、技术适配等方面积极协同创新。2025 年,天融信香港子公司正式成立,以此为契机进一步深化本地化技术与服务适配。
相关负责人表示,公司未来将在香港逐步建设完善安全技术研究中心、数字城市安全运营中心、国际人才培养中心和安全方案研发中心,持续深化香港战略布局,助力香港构建安全可靠的网络环境。
会议同期,天融信还参与了世界互联网大会数智研修院举办的人工智能与网络安全能力建设高级研修班,与中国电信国际、香港华为国际等领军企业一同深入讨论企业如何在 AI 时代系统性地构建网络韧性。


登录后才可以发布评论哦
打开小程序可以发布评论哦