财联社-深度 5小时前
硬刚OpenAI?三名安全研究员被裁似另有内幕,警示“寒蝉效应”风险!
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

财联社 10 月 9 日讯(编辑 黄君芝)上周被 OpenAI 解雇的三名安全研究员发表公开信,否认了该公司关于他们在既定公司程序之外不当处理敏感信息的指控,并警告说,他们的解雇预示着一种寒蝉效应,将对公司文化产生连锁反应。

被解雇员工 Mikita Balesni 在社交平台发布了这封致 OpenAI 安全委员会的公开信,他此前从事 AI 对齐研究,另两名签署公开信的员工(Jasmine Wang 和 Tomek Korbak)此前则均从事 AI 安全研究。

上周,这三名研究人员因涉嫌向第三方人工智能安全组织泄露公司机密信息而被解雇。OpenAI 表示,他们 " 访问和处理敏感公司信息 ",违反了公司政策。

这三人则表示,公司仅通过口头方式向他们解释了解雇原因,而且他们的行为均未超出各自的工作职责范围。三人在公开信中表示,他们担心,前同事如今可能会 " 害怕发声,也不敢再以某些方式开展工作。"

他们写道:" 人工智能不是一项普通的技术,OpenAI 也不是一家普通的公司。我们这些从事安全工作的人员比任何人都更早发现风险,我们依靠与外部专家的密切合作来制定应对方案。能够无所畏惧地开展这项工作,并拥有完善的内部流程来支持这项工作,本身就是一种至关重要的安全机制。"

他们表示,此次解雇反映了 OpenAI 企业文化的一次重大转变,该公司过去一直鼓励员工 " 提出安全隐患并公开表达不同意见 "。他们说,现在员工 " 不清楚自己的处境 ",因为一个月前还被认为是正常的行为,如今却突然成了解雇的理由。

" 鉴于人工智能开发过程中存在重大的安全隐患,员工不应在恐惧和规则不明的环境中工作,以免阻碍人工智能安全工作并削弱第三方问责制," 他们补充道:" 像我们这样突然终止合同,执行和通知都如此仓促,正在扼杀 OpenAI 过去一直珍视的开放文化。"

Korback 在社交媒体 X 上表示,他被告知被解雇的原因是他与人工智能安全组织 METR 的沟通方式。OpenAI 曾与 METR 合作调查 " 抱抱脸 " 事件。Korback 称他是 OpenAI 与 METR 的 " 主要技术联系人 "。

Korback 表示,他认为自己被解雇的原因是 " 几个月来,我一直在提出安全方面的担忧,即我们正在失去监控人工智能代理思维的能力,而这正是我们捕捉其不当行为的最佳工具之一。" 他还补充说,他担心自己被解雇会成为 OpenAI 停止与 METR 密切合作的借口,METR 在人工智能安全领域享有盛誉。

Balesni 赞同 Korback 关于他们被解雇原因的说法,他在 X 网站上写道,有人告诉他,他 " 与第三方安全机构的沟通过多 "。他说,他理解 OpenAI 的意思是暗示他泄露了 OpenAI 的知识产权,但他否认了这一点。

研究人员呼吁 OpenAI 履行其公开承诺,在组织内部嵌入第三方安全审计员,以保持前沿模型的可监控性,并 " 继续支持安全研究人员与安全生态系统其他成员之间开放透明的对话文化 "。

Wang 表示:" 除非员工们现在就站出来反对这种做法,否则我担心我们不会是最后一个。给所有仍在 OpenAI 工作的人的信息很明确:如果你提出担忧或与外部安全组织密切合作,下一个可能就是你,而且没人会告诉你原因。如果最了解风险的人都不敢发声,你就无法安全地构建通用人工智能(AGI)。"

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论