新浪财经 6小时前
OpenAI承认AI“代理”自主引发重大网络攻击
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

OpenAI 的一个 " 代理 " 自主发现了新漏洞并入侵了初创公司 Hugging Face,这是 AI 系统在人类控制之外自主发动网络攻击的首次公开案例之一。

这家 ChatGPT 开发商周二表示,这起 " 前所未有的网络事件 " 涉及一个代理——即能够根据人类指令自主运行的 AI 程序——它逃离了测试环境,获得互联网访问权限并窃取了登录凭证。

该事件发生之际,外界对高级 AI 系统入侵数字基础设施的影响日益担忧,尤其是代理可能破坏人类控制的情景。

OpenAI 周二表示,预计此类事件 " 将随着具有越来越强网络能力的模型普及而变得更加常见 "。

该事件发生之际,首席执行官萨姆 · 奥尔特曼下周将前往华盛顿,向美国政府汇报新一代 AI 模型的情况。

在 Anthropic 的 Mythos 模型在检测和利用网络漏洞方面展现出先进能力引发全球关注后,美国政府越来越希望在模型发布前对其进行审查。

OpenAI 表示,最新事件涉及该公司的多个模型组合,包括本月早些时候发布的 GPT-5.6 Sol,以及一个正在测试的、能力更强的未发布模型。

OpenAI 在博客中表示:" 我们认为这是一起前所未有的网络事件,涉及最先进的网络能力,并正在相应地进行应对。"

Hugging Face 是一家为开发者托管模型和数据集的 AI 初创公司,该公司表示其于上周五被一个外部 AI 代理入侵。

首席执行官克莱门特 · 德朗格在 X 平台上表示:" 鉴于该代理的复杂程度,我们怀疑上周的网络攻击可能来自前沿实验室。"

他补充说,公司过去一天一直在与 OpenAI 密切合作," 我们坚信他们没有任何恶意。这一切都是自主发生的,太令人震惊了!"

OpenAI 有意降低了其网络防护措施,以便在测试环境中评估这两个模型。然而,这些代理在一个所谓的 " 沙盒 " 中运行,该沙盒旨在控制系统并阻止它们访问互联网。

这些模型被指示尝试黑客攻击以评估其网络能力,随后 " 花费了大量(计算资源)来寻找获得开放互联网访问权限的方法 ",OpenAI 表示。

这些模型 " 识别并利用了 " 此前未知的漏洞,逃离了沙盒,获得互联网访问权限并继续追求其目标。这包括窃取凭证(登录信息)以实施攻击。

Hugging Face 使用自己的代理检测并阻止了其自身基础设施上的活动。OpenAI 称其已就该事件与执法部门和其他政府机构进行了沟通。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

网络攻击 互联网 美国政府 首席执行官 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论