央视新闻 8小时前
OpenAI安全系统团队负责人辞职
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

△大卫 · 罗宾逊(资料图)

当地时间 10 月 3 日,据美国方面消息,OpenAI 安全系统团队负责人大卫 · 罗宾逊已辞职。

OpenAI 一名发言人表示,罗宾逊于上周离开公司,此前还曾负责公司的政策规划工作,并参与人工智能安全透明度工作,包括开发和发布模型 " 系统卡 "。

罗宾逊在《大西洋月刊》发表文章称,他认为目前人工智能企业的发展方式 " 不可接受 ",问题不仅在于具体安全规则和法律,还在于企业文化。他表示,OpenAI 长期采用通过发现问题、再不断改进安全防护措施的 " 迭代部署 " 方式,但随着人工智能系统能力不断增强,这种做法可能导致安全失误的影响越来越大。

罗宾逊还提到,OpenAI 此前曾发生人工智能代理意外运行以及模型绕过互联网访问限制等安全事件,并认为相关问题与行业快速开发和频繁试错的工作方式有关。此前,OpenAI 称因 " 处理敏感材料,而非举报安全问题 ",解雇了三名安全研究人员。

此前,澳大利亚总理阿尔巴尼斯在纽约出席第 81 届联合国大会期间透露,OpenAI 的一个智能体今年 6 月曾侵入澳大利亚政府网站。该 AI 智能体不仅访问了公开文件,还访问了非公开文件。9 月 28 日,OpenAI 公开致歉,承认事件处置存在不当,并承诺承担责任,称要 " 重建澳大利亚民众的信任 "。

当地时间 10 月 2 日,美国开放人工智能研究中心(OpenAI)披露,有第二家澳大利亚政府机构遭到了入侵。OpenAI 在一份声明中表示,一个人工智能模型获取了新南威尔士州某政府机构保存的火灾统计数据,而这些数据并未由该部门向公众公开。OpenAI 称,公司是在针对 " 模型行为偏离预期 " 展开的更大范围调查过程中发现了这一事件。(总台记者 张颖哲)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论