驱动之家 前天
2030年AI可能毁灭人类!AI天才炮轰美国巨头拿人命赌博 马斯克转发
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 11 日消息,据报道,27 岁 AI 顶尖研究员雅各布・考克森正式从 Anthropic 离职。过去三年,他先后任职 OpenAI 与 Anthropic,深度参与前沿大模型预训练研究。

离职之际,他在社交平台发文警示:" 他们正在拿我们的命赌(gambling with our lives)。" 随后,该言论被马斯克转发,全网浏览量突破 1.2 亿。

考克森在社交平台直言,两家头部企业并没有履行安全责任,在商业竞争驱动下,企业疯狂推进具备自我迭代能力的超级智能研发。

他提醒外界不要低估技术的潜在破坏力,未来这类系统或将拥有入侵各类网络系统的能力,快速改写多个行业格局,获取现实世界的资源与权力。

考克森认为:"AI 开发者们真心相信,到了这个十年的末尾(即 2030 年左右),它可能会毁灭我们所有人。这并非营销噱头。"

他揭露了行业的扭曲逻辑:各家企业都担心对手率先造出危险的超级智能,于是选择抢先加速研发。在抢占市场的压力下,原本严格的安全审核不断妥协退让,号称保障 AI 向善的 " 技术对齐 ",很多时候只是用来安抚公众的公关说辞。

更值得警惕的是,高管和研究员对外描绘 AI 美好前景,私下却充斥着末日焦虑。Anthropic 对齐团队主管埃文・胡宾格公开佐证了这一现状,他预估十年内 AI 造成人类毁灭的概率超 10%,同时坦言,目前行业还没有能够解决超级智能安全对齐的可行方案。

讽刺的是,Anthropic 成立之初,正是一批不满 OpenAI 过度商业化的技术人员,希望打造更注重安全的 AI 公司,如今却被自家核心研究员指责蒙眼狂奔。

业内的危机预警,推动美国政界加快行动。参议员伯尼・桑德斯等人推出法案,提议永久禁止超级智能开发,在监管机构落地前暂停高阶 AI 项目。

桑德斯还引用考克森的发言,呼吁同僚参与 AI 风险闭门听证会,多名议员也相继起草相关法案,提议给 AI 设置紧急切断开关。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 美国 马斯克 社交平台 离职
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论