手机中国 11-10
以色列国家网络局:AI的权限太高已成网络安全新威胁
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】近日,以色列国家网络局(INCD)战略项目局局长塔米尔 · 戈伦在特拉维夫大学举行的 "Cyber Week 创新峰会 " 上表示,把 AI 智能体的权限设置得与用户本人相同,正在成为一类新的安全威胁。他指出,没有命令服务器、能自行行动的 AI 攻击,以及彼此协作的智能体集群,识别难度都明显更高。

AI 示意图

戈伦提到的典型场景是 " 过度代理 ":不少组织把 AI 接入系统时,直接赋予它与用户相同的权限,即便业务并不需要,这些权限也照样保留。他认为这种做法应当被明确禁止;要防止风险真正发生,需要借助自动化手段识别并收窄已授予的权限。过度代理已被 OWASP 列入 2025 年版 " 大语言模型应用十大风险 "。他用一句话概括其中的矛盾:本意是帮忙的 AI 助手,有时帮过了头,有时甚至在帮攻击者。

另一类问题是 " 混淆代理 "。当高权限的 AI 系统或智能体被低权限用户乃至恶意攻击者诱导,并利用自身的高权限代为执行原本未被批准的操作时,就构成权限提升漏洞。戈伦说,即使设置了护栏,AI 也往往能巧妙地绕过去;商用 AI 模型本身带有固有弱点,若要真正信任它,必须从数据阶段到执行阶段都清楚攻击可能发生在哪里。

防守端的另一项挑战是 " 用 AI 发起的攻击 "。他指出,基于 AI 的钓鱼攻击可以同时覆盖大量目标,内容又足够精细,很难分辨;使用视频与音频的深度伪造攻击存在同样的问题。

在量子领域,INCD 关注非对称加密被攻破的可能性,并认为对称加密也会被削弱,只是程度较轻。戈伦把与后量子密码(PQC)相关的密码资产梳理视为应对量子时代的第一步,同时提出,难以迁移到 PQC 的传统遗留系统如何缓解风险仍是待解课题。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 以色列 大学 自动化 特拉维夫
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…