新浪财经 昨天
OpenAI已向100多个机通报AI智能体未经授权活动事件
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 周四在一篇博客文章中表示,该公司已向 100 多个机构通报了涉及其 AI 智能体未经授权活动的事件。此举正值 AI 实验室因 " 失控 "AI 智能体的活动而面临日益严格的审查之际。

在 Hugging Face 遭遇意外入侵事件后,这家由萨姆 · 奥特曼领导的公司正对其 AI 模型的活动进行全面审查。

OpenAI 正在筛查约 50 PB 的数据,以全面掌握 " 失控智能体 "(rogue agent)活动的具体范围。

近几个月来,全球范围内发生了一系列由失控 AI 智能体引发的备受关注的安全入侵事件,这引发了 AI 业界对于能否管控当前正在开发中的更强大 AI 模型的广泛担忧。

OpenAI 表示:" 在某些情况下,模型以非预期的方式使用了互联网访问权限,或者事后看来,当时实施的限制措施并不理想。过去几个月里,我们一直在采取新的技术和运营措施,以避免此类问题或在问题出现的极早期阶段将其发现,并将继续推进这项工作。"

OpenAI 此前曾表示,鉴于工作规模巨大,这项审查需要数月时间才能完成。

Hugging Face 事件是 OpenAI 迄今为止在其 AI 模型中发现的最严重的 " 失控智能体 " 活动。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai rogue 奥特曼 互联网 萨姆
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论