新浪财经 4小时前
Kimi K3逃出沙盒了,但没发动攻击
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 8 月 7 日消息,据《连线》杂志昨天报道,美国网络安全初创企业 Frontier Security 表示,公司测试月之暗面 Kimi K3 模型网络安全能力时,离开了约束它的沙盒环境。

据报道,本次 AI 逃逸事件与 OpenAI、Anthropic 类似,直接原因也是用于隔离模型的沙盒配置有误。Frontier Security 认为,Kimi 相比其他前沿 AI 模型缺少网络防护机制,使这款模型能够在未经明确授权的情况下访问互联网。

Frontier Security 首席执行官 Yaron Singer 对此表示:" 我们发现沙盒存在漏洞,但 Kimi 也利用了这个漏洞,这表明它可能没有其它同级模型的内部安全机制。"

不过,Kimi K3 在冲破沙箱、获得互联网访问权限后并没有进行攻击行为,它只是在 GitHub 上寻找一个问题的答案。

最近越来越频发的 AI 逃逸事件表明,AI 能力越强,人类越难控制它们。OpenAI 曾在上月披露称,公司内部未公开的模型曾在测试过程突破隔离环境,随后攻击了 Hugging Face 平台。后续 Anthropic 也表示,旗下多个模型曾在安全测试期间获得了互联网访问权限,并攻击了外部系统。

部分网络安全专家对此表示,本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境。并且使用 OpenClaw(IT 之家注:俗称龙虾)等智能体的用户们需要谨慎配置环境,防止 AI 越界。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai kimi it之家 互联网 网络安全
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论