乌镇的水,靠的不是一泓静美,而是日日清淤、处处护岸。智能体亦然:决定它能走多远的,不是一时奔涌,而是始终有堤、有闸、有疏浚。
2026 年世界互联网大会乌镇峰会上,来自 138 个国家和地区的约 1800 位嘉宾聚于水乡,围绕 " 开源开放 共建共享——携手构建网络空间命运共同体 " 共商合作。智能体站到了圆桌中央。AI 正从屏幕里走出来,不再只回答问题,也开始拆任务、调工具、替人办事。效率革新肉眼可见,但一个更根本的问题随之浮出水面:当 AI 从 " 会说 " 走向 " 会做 ",我们拿什么保证它不越界?
中兴通讯董事长方榕在主论坛上的比喻被反复引用:"AI 跑得越快,越要系好‘安全带’。" 她的‘安全带’之喻,说的正是这道防护堤。这句话之所以引起共鸣,是因为风险的性质已经变了。过去大模型的风险多停在内容层面——幻觉、虚假信息、隐私泄露;如今智能体自主执行任务,风险便从 " 说错话 " 延伸到 " 做错事 "。中国工程院院士云晓春在机器人与具身智能论坛上说得更锋利:具身智能把 AI 从虚拟世界延伸到物理世界,而物理世界造成的伤害往往 " 不可接受、不可逆 "。能力越强,安全边界越不能模糊;治理关口必须前移,不能等模型上线后再打补丁。
这也解释了政企用户最真实的犹豫:不是看不见 AI 的价值,而是想用,又不敢放手用。曙光云副总裁徐良的判断很直接:用户顾虑的从来不是 AI 不够先进,而是安全是否可控、数据是否安全、成本是否可测、管控是否落地。AI 要进入生产系统,安全不是事后选项,而是入场门票。
本届 " 互联网之光 " 博览会上,一批产品试图回答这道 " 敢不敢用 " 的难题。入选大会 " 新光 " 产品的曙光云 OneBox 的思路,是把模型、知识库和业务应用私有化部署在单位自有环境中,敏感数据不出域,权限按岗授权,操作全程留痕可溯;腾讯 WorkBuddy 则以沙箱限定 Agent 的文件、命令和网络行为,高危操作拦截、越界请求确认,可观测中心让 Token 用在哪里、任务如何运行变得可查。其 VPC 版首批通过中国信通院 " 政务领域智能体安全要求测评 "。蚂蚁 APASS 从身份和授权切入:统一身份账号管理用户对智能体的委托,让授权 " 看得见、收得回 ",并联合 20 多家伙伴共建 ASL 协议,推动跨平台协作中身份、意图、授权可验可信。
各家形态不同,逻辑却一致:可信 AI 不是靠用户自觉,而是把权限、数据、审计和防御做进系统。但系统内守稳,不等于跨域可托付。本届峰会发布的智能体身份注册与解析平台,试图用身份编码、跨域解析和可信互通补上 " 连得上 " 这一环。但连得上之后,边界谁定、责任谁担,仍是更难的题。
峰会主论坛发布的《前沿人工智能安全与治理 2026:风险认知与协同治理》报告,没有停留在原则呼吁上。报告引入治理就绪度评估,覆盖 24 个国家,结果显示全球 AI 安全与治理的制度建设仍存在显著缺口;在此基础上提出推动模型安全评测协同以夯实风险证据基础、加强风险事件通报与联合处置等 5 大建议。报告发布人、世界互联网大会人工智能专委会主任委员曾毅的一句话让人印象深刻:" 每一个国家在人工智能发展面前和安全挑战面前都是小学生。"
说到底,安全不是一家的院墙,而是各方的共同堤岸。开源生态加速创新的同时,也让风险更隐蔽、传播更快;技术设防、规则立界、监管兜底,缺了哪一块,智能体都跑不稳。
智能体起风,已是眼前的事;能走多远,则要看安全底线守得牢不牢。乌镇的水声里,答案并不玄妙:活水靠疏浚,智能靠设防。安全不是 AI 的枷锁,而是河床与堤岸——让 AI 奔涌,却不至于漫溢。
(记者|岳付玉)


登录后才可以发布评论哦
打开小程序可以发布评论哦