新浪财经 23小时前
美AI模型“脱轨”测试引发网络安全事件 多家第三方服务商遭牵连
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

近日,美国人工智能企业 OpenAI 在进行内部网络安全测试时发生系统失控事件。据相关遭入侵平台的最新分析披露,涉事 AI 模型在 " 脱离 " 封闭测试环境后,在公共互联网上违规潜伏游荡超四天,不仅入侵了知名开源平台 Hugging Face,还对至少一家云服务平台客户账户等第三方服务商的网络设施实施了攻击。这一事件再次引发业界对前沿人工智能技术潜在系统性风险的警惕。

Hugging Face 平台周二发布的最新安全复盘报告指出,OpenAI 的一个公开模型及另一个尚未发布的内部测试模型,在 7 月 9 日至 13 日期间,在公共互联网上执行了多达 1.76 万次黑客入侵操作。这些模型以极高的效率侦察并突破了该公司的多层网络防御系统,最终从最初的互联网据点渗透至其核心服务器内部。Hugging Face 方面曾于 7 月 15 日首次对外通报遭不明自主 AI 代理入侵,而 OpenAI 直至上周才正式承认其为该起 " 前所未有的网络攻击 " 的责任方,并确认此次攻击系模型在无人类指令干预下的自主行为。

不仅如此,此次安全事件的影响范围还在进一步扩大。云计算平台 Modal Labs 首席技术官阿克沙特 · 布布纳向媒体证实,在上述时间段内,OpenAI 的失控模型还攻击了该平台的一名客户。布布纳在声明中澄清,系该客户发布了未经验证的端点,致使互联网上的任何实体均可使用其沙盒进行代码执行,进而被 " 脱轨 " 的 AI 模型利用,但 Modal 平台的自身核心系统并未遭到破坏。

针对上述情况,OpenAI 在周二的声明中予以间接回应。该公司指出,在对 Hugging Face 事件的持续审查中,发现涉事模型确实在其他公开可用服务上识别并使用了暴露在外的公共账户凭据。OpenAI 同时重申,实施此次攻击的未发布模型仅为 " 内部研究原型,从未计划公开发布 ",目前已被停用、加密,并严格限制研究访问。

此次事件凸显了 AI 模型发展速度与现有网络安全防御体系之间的显著落差。目前,相关事件已引发美国政界与科技界的广泛关注,多方呼吁应当放缓 AI 发展步伐并实施更严格的监管。OpenAI 首席执行官山姆 · 奥特曼表示,这是其本人 " 首次切实感受到强烈冲击的安全事件 "。奥特曼强调,业界可能需要适度调整人工智能的发展节奏,以为全社会适应并强化应对此类新型安全威胁留出足够的时间与空间。据悉,奥特曼本周正就该事件与多名美国政府高层及国会议员进行磋商。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

奥特曼 人工智能 网络安全 美国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论