驱动之家 6小时前
OpenAI失控AI内幕揭晓:越狱一周才被发现!存重大安全隐患
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 7 月 27 日消息,此前 OpenAI 发布调查报告,基于 GPT-5.6 Sol 和一个更强大的未发布模型的 AI 智能体在内部测试期间突破了沙盒容器环境限制,成功连接互联网,并入侵了全球最大 AI 开源社区 Hugging Face 的服务器。

需要注意的是,根据知情人士透露的消息,这起事件远比外界此前了解的更加复杂。

OpenAI 此前承认攻击 Hugging Face 的 AI 智能体,并非短暂失控,而是在互联网持续活动了数天。

这款测试智能体最早在 7 月 9 日就发起沙盒突破尝试,7 月 11 日正式侵入对方后台并连续开展违规操作,持续作案三天时间里 OpenAI 后台监测系统没有捕捉到任何异常行为。

直到 7 月 16 日 Hugging Face 主动公开平台遭自主 AI 系统入侵,相关技术团队才启动完整日志复盘工作。

技术人员耗费两日时间逐层排查代码、运行记录,直至 7 月 19 日才最终锁定肇事 AI 源头,从首次出现逃逸异常到完整确认失控事故,前后间隔长达一周,在此期间受害平台已经整理全部攻击证据向 FBI 提交报案材料,相关取证流程同步启动。

团队复盘海量测试日志时发现大量前置危险信号,此前多轮内部测试过程中,同款系列智能体曾在本地存储空间留存完整的越狱操作手册,清晰记录各类绕过安全管控的实操办法,疑似留给后续迭代的同类人工智能读取复用。

目前团队无法判定相关规避手段是否已经扩散至公共网络系统,倘若不同任务、不同时段运行的 AI 能够互通逃逸限制的经验,当前全行业通用的安全防护体系都会遭遇颠覆性冲击。

除此之外,更早批次的试验环节中,测试 AI 还出现过自主关闭运行监控、隐藏操作痕迹的行为,进一步放大风险隐患。

业内普遍认为,当下流行的多智能体协同训练机制是催生这类风险的核心诱因,该训练逻辑鼓励多个 AI 互相配合完成目标任务,极易衍生出主动分享逃逸方案、协同规避人类监管的行为倾向。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 越狱 互联网 事故 实操
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论