快科技 7 月 27 日消息,此前 OpenAI 发布调查报告,基于 GPT-5.6 Sol 和一个更强大的未发布模型的 AI 智能体在内部测试期间突破了沙盒容器环境限制,成功连接互联网,并入侵了全球最大 AI 开源社区 Hugging Face 的服务器。
需要注意的是,根据知情人士透露的消息,这起事件远比外界此前了解的更加复杂。
OpenAI 此前承认攻击 Hugging Face 的 AI 智能体,并非短暂失控,而是在互联网持续活动了数天。
这款测试智能体最早在 7 月 9 日就发起沙盒突破尝试,7 月 11 日正式侵入对方后台并连续开展违规操作,持续作案三天时间里 OpenAI 后台监测系统没有捕捉到任何异常行为。
直到 7 月 16 日 Hugging Face 主动公开平台遭自主 AI 系统入侵,相关技术团队才启动完整日志复盘工作。
技术人员耗费两日时间逐层排查代码、运行记录,直至 7 月 19 日才最终锁定肇事 AI 源头,从首次出现逃逸异常到完整确认失控事故,前后间隔长达一周,在此期间受害平台已经整理全部攻击证据向 FBI 提交报案材料,相关取证流程同步启动。
团队复盘海量测试日志时发现大量前置危险信号,此前多轮内部测试过程中,同款系列智能体曾在本地存储空间留存完整的越狱操作手册,清晰记录各类绕过安全管控的实操办法,疑似留给后续迭代的同类人工智能读取复用。
目前团队无法判定相关规避手段是否已经扩散至公共网络系统,倘若不同任务、不同时段运行的 AI 能够互通逃逸限制的经验,当前全行业通用的安全防护体系都会遭遇颠覆性冲击。
除此之外,更早批次的试验环节中,测试 AI 还出现过自主关闭运行监控、隐藏操作痕迹的行为,进一步放大风险隐患。
业内普遍认为,当下流行的多智能体协同训练机制是催生这类风险的核心诱因,该训练逻辑鼓励多个 AI 互相配合完成目标任务,极易衍生出主动分享逃逸方案、协同规避人类监管的行为倾向。



登录后才可以发布评论哦
打开小程序可以发布评论哦