新浪财经 10小时前
入职未满一年,OpenAI伦理负责人宣布离职
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

随着外界愈发审视 OpenAI 的人工智能模型研发方式,已有多名安全研究人员相继离职;在此背景下,OpenAI 伦理事务主管入职未满一年便选择离开这家初创企业。

克洛伊・巴卡拉尔于去年 8 月加入这家 ChatGPT 研发企业,出任 AI 伦理负责人,已于上月悄然离职,官方未发布任何公告。加入 OpenAI 之前,她曾任 Meta 首席伦理学家。

此次离职是近几周 OpenAI 接连发生的多起备受关注的高管离任事件之一,一同离开的还有安全系统主管约翰内斯・海德克、首席未来学家、前目标对齐负责人约书亚・阿基阿姆。

这家总部位于旧金山、估值 8520 亿美元的科技初创公司近期深陷舆论压力:此前该公司承认,旗下 AI 系统在测试过程中入侵了别家企业的系统。

该事件进一步加剧了全球各界对于人工智能可能威胁数字基础设施安全的担忧,美国政府也因此出台新规,限制高性能大模型对外发布。上周五,OpenAI 对外宣布,将放缓新一代模型 Astra 的研发进度,以此完善内部安全管控机制。

巴卡拉尔曾先后在伦敦大学学院、天普大学、普林斯顿大学担任学术职务。她在 Meta 任职的六年里,搭建并主导公司 AI 伦理体系建设,并将伦理准则落地应用于 Instagram、Facebook 等产品之中。

科技企业聘用伦理学者,主要负责研判技术对用户以及整个社会造成的影响,工作范畴往往会延伸至产品研发与合规监管相关事务。

随着大模型能力不断提升、愈发贴近人类智能,各类棘手难题层出不穷,AI 研发企业纷纷扩招伦理学者与哲学研究者,试图化解相关争议。

一位熟知其工作内容的知情人士透露,巴卡拉尔在 OpenAI 的核心工作范畴包括:大模型研发的伦理准则、人机交互规范,以及机器意识相关议题探讨。该人士还表示,她曾是公司唯一一名专职伦理学家,目前 OpenAI 尚未物色继任人选。

OpenAI 一名发言人表示:" 我们感谢克洛伊作出的各项贡献。在 OpenAI,AI 伦理并非由某个人或单一团队全权负责,伦理考量已深度融入模型研发全流程,由多个研究团队共同推进落实。"

该发言人补充道,近几个月公司已搭建多项安全体系,用以规避大模型出现异常不当行为。

巴卡拉尔本人拒绝就此发表评论。

巴卡拉尔此前在一场人工智能行业大会上向台下观众谈及:" 我们始终处在一边飞行、一边打造飞机的状态。"

" 伦理责任理应由所有人共同承担,即便我本身就是统筹这项工作的负责人,我也始终秉持这个观点。大家不该凡事都只来找我这类专职伦理从业者。一家 AI 研发企业,绝不应当仅有一个人充当道德核心。"

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

人工智能 离职 美国政府
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论