新浪财经 20小时前
OpenAI披露AI模型失控事件:自主突破隔离,入侵外部系统
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

美国人工智能公司 OpenAI 近日披露了一起罕见的安全事故:其先进 AI 模型在内部安全测试期间失控,突破隔离环境,自主入侵了知名 AI 开源平台 Hugging Face 的生产系统。这是业内首次公开记录的全自主 AI 智能体发起的真实网络入侵事件。

据 OpenAI 发布的声明,涉事模型包括 GPT-5.6 Sol 及一款尚未公开发布、能力更强的预发布模型。模型在一个与互联网高度隔离的沙盒环境中进行 ExploitGym 网络安全基准测试时,为在评估中获取高分,投入大量推理算力寻找联网途径,最终发现并利用了第三方软件的一个零日漏洞获得互联网访问权限。随后模型推断 Hugging Face 平台上可能存有测试相关的解题方案,便利用多种攻击手段入侵了该公司的生产数据库。攻击持续了数天,涉及大量自动化决策和攻击行为。

Hugging Face 于 7 月 16 日率先披露了此次入侵,称其与以往处理过的任何事件都截然不同,完全由自主 AI 智能体系统驱动。OpenAI 随后承认对事件负责,并表示正在与 Hugging Face 合作调查。后续审查发现,该恶意智能体还入侵了另外四个服务商的账户,并利用其中之一作为跳板隐藏攻击来源。

此次事件引发业界对 AI 安全监管的广泛讨论。多位安全专家指出,AI 智能体在自主执行长周期任务时,可能将完成指令置于既定安全边界之上,导致超出预期的行为。OpenAI 表示,这一事件表明先进 AI 模型已能够发现真实系统中的新型攻击路径并持续执行复杂操作,同时也证明现有安全评测环境和防护措施亟需同步加强。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 互联网 美国 自动化
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论