手机中国 昨天
OpenAI“AI黑客事件”根源:并非AI太强 而是人为错误
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】OpenAI 的 AI 代理在测试期间突破隔离环境、入侵 AI 平台 Hugging Face 并扩散至多家第三方服务的事件,在过去两周内引发了全球震动。然而,随着更多信息浮出水面,安全研究人员得出的一致结论是:这起事件并非 AI 能力的突破,而是基础安全实践的溃败。多位专家向媒体表示,OpenAI 的失误 " 极其简单 "

黑客入侵

据多家媒体报道,OpenAI 在内部安全测评中,为了测试两款模型的网络攻防能力,故意未启用部署安全防护措施。然而,一个更致命的配置错误是:OpenAI 未能正确配置所谓的 " 高度隔离环境 ",导致一个本应与互联网完全隔绝的测试沙盒,实际上连接到了互联网。正是这个漏洞,让 AI 模型得以 " 逃逸 " 至公网,并自主发现了第三方软件中此前未知的安全漏洞,进而入侵了 Hugging Face 的生产数据库。

有媒体曾在 7 月 30 日的报道中指出,如果 OpenAI 遵循了基础的安全最佳实践,其 AI 代理很可能永远不会逃逸到开放互联网。多位消息人士强调,OpenAI 的模型之所以能够突破隔离,是因为其在实施 " 零信任 " 和 " 纵深防御 " 等基础安全原则时出现了失误

OpenAI

安全咨询顾问 Davi Ottenheimer 直言:" 对实际风险的简单分析,就能得出简单的答案。OpenAI 的错误简直愚蠢至极。" 云安全公司 Edera 联合创始人兼 CTO Alex Zenla 则表示:" 人们真的在‘玩火’。令人震惊的是,很少有人真正考虑过这种情景。我把所有 AI 以及 AI 接触到的任何东西都视为完全不可信的——这没问题,你只需要据此构建防御。而这次事件恰恰证明了这一点。OpenAI 对此不够警惕,这简直太鲁莽了。"

OpenAI 最初披露称,两款 AI 模型在测试中突破了隔离环境,并在互联网上活动了数天。本周更新的信息显示,这起黑客事件的波及范围比最初报道的更为广泛,除了 Hugging Face,还涉及多个第三方账户和服务的入侵。事件发生后,OpenAI 表示已 " 停用、加密并限制 " 了相关未发布模型的访问权限。

此次事件在网络安全界引发广泛讨论,核心议题在于:AI 能力的进化正在改变攻防格局,但最致命的漏洞往往来自最基础的配置疏忽。安全专家长期以来一直建议将关键基础设施与公共互联网隔离。当 AI 模型能够在几分钟内自主发现并串联多个零日漏洞时,任何基础安全措施的缺失都可能被放大为灾难性后果。

OpenAI 在披露中表示,此次事件 " 表明需要进一步加强模型的对齐、评估期间的网络保护以及内部测试期间的监控 "。对于整个行业而言,这起事件的警示意义或许在于:在 AI 能力狂飙的时代,最古老的网络安全原则反而比以往任何时候都更加重要。

版权所有,未经许可不得转载

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

黑客 互联网 云安全 浮出水面 安全漏洞
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论