北青网 3小时前
腾讯董志强:AI Agent已成为众多企业“数字员工”,安全防护需要同步跟上
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

AI Agent 走进企业一线,高自主性带来新安全风险

今年 3 月,一起针对 AI Agent 的安全事件引发关注:攻击者给员工发送一封含隐藏指令的邮件,员工使用 Microsoft 365 Copilot 总结邮件后,被诱导点击钓鱼内容,导致内网文件被外传。

董志强指出,Agent 一旦被注入恶意指令,就会用自己受信任的身份替攻击者做事,企业很难防范。这一事件并非个案,而是暴露了 Agent 安全的结构性问题:一是身份盲区,企业现有安全体系按 " 人 " 的逻辑设计,Agent 借用员工身份操作时,审计无法区分是 " 人做的 " 还是 "Agent 替人做的 ";二是自治失控,Agent 自主推理和调用工具的过程中缺乏实时拦截,一旦被注入攻击便不会自行停止;三是数据泄露,Agent 持有的会话记忆和外部接口调用,存在传统 DLP 覆盖不到的数据外泄通道;四是供应链安全,Agent 加载的 Skill 和 MCP 扩展可能携带恶意代码,构成供应链层面的安全隐患。

腾讯推出 Agent 全栈防护方案,让企业 Agent 可见可管可控

针对上述风险,腾讯云推出 Agent 全栈安全防护方案,覆盖运行时、内容、身份、数据四个层面。

运行时防护是核心,ClawShield 在 Agent 推理和调用的过程中进行实时检测:推理前清洗恶意指令,推理后审核生成内容;命令执行前识别危险操作并拦截;Skill 和 MCP 扩展加载即校验,运行全程监控;在 Agent 与外部交互的边界,AI Agent 安全网关负责输入清洗、上下文拼接校验和输出审核,守住内容合规底线;在身份侧,OneID 为每个 Agent 签发独立身份(" 一 Agent 一 ID"),基于用户身份与 Agent 身份组合授权,后端凭据加密托管,用临时凭据替代长效凭据,做到 " 可用不可见 ";在数据侧,敏感内容识别、命中拦截和规则脱敏覆盖 Agent 访问大模型和外部 API 的全过程。

董志强强调,这套方案的核心在于 " 实时校验 " ——安全检测发生在 Agent 推理和调用的过程中,而非事后追查,从而让企业对 Agent 实现可见、可管、可控。

同时,在此次峰会上,腾讯云安全推出 CodeBuddy Security,以 CodeBuddy 为执行底座,构建安全专用的漏洞挖掘与验证工作流,结合自研静态分析引擎 Xcheck,形成 "AI 深度审计 + 规则扫描 " 双引擎协同的代码安全方案,为企业代码提供深层安全保障。

AI Agent 安全已在腾讯内部验证,为企业和个人保驾护航

董志强介绍,腾讯云 Agent 全栈安全防护方案已在 WorkBuddy、ClawPro、SkillHub、QClaw 等腾讯多款 Agent 产品及技能平台上落地验证。以 WorkBuddy 为例,安全防护作为默认开启的基础能力,从用户登录的那一刻起,身份校验、输入检测、运行时沙箱、工具调用拦截、输出审核、传输加密就在后台全程运行,用户无需额外配置。在模型推理环节,WorkBuddy 同时支持公有云大模型与 AICC 机密模型专区,后者为企业提供物理隔离的推理环境,模型权重与企业数据不出专区。

面向企业级 Agent 部署,腾讯云安全为 ClawPro 企业级 Agent 管控平台提供五重安全能力,解决 Agent 在企业中 " 管不住、看不清、审不了 " 的问题——从资产盘点、环境管控、凭据代理、技能扫描到全链路审计,覆盖 Agent 在企业中运行的全过程。

董志强表示,腾讯云的 Agent 安全能力已覆盖个人生产力场景与企业办公场景,让企业和个人都能放心使用 Agent,加速拥抱 AI。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

腾讯 ai 供应链 审计 安全隐患
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论