新浪财经 21小时前
超千名AI从业者联名呼吁放缓AI研发,称风险已迫在眉睫
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

超过 1100 名来自全球顶尖人工智能公司的员工签署公开信,呼吁美国政府牵头建立国际机制,以 " 有意调控前沿自动化 AI 研发的节奏 ",确保安全措施能跟上技术发展的速度。

此次联名信名为 " 把控前沿 ",签署者阵容强大,包括 OpenAI 首席科学家雅库布 · 帕霍茨基、Anthropic 首席执行官达里奥 · 阿莫代伊及其两位联合创始人、Meta 首席科学家赵晟佳,以及谷歌DeepMind 负责 AI 安全与对齐的安卡 · 德拉甘等业界核心人物。公开信明确指出,全球领先的 AI 公司可能已接近实现 " 自动化 AI 研究 " ——即 AI 能够自主研发和迭代新一代系统。一旦进入这一阶段,AI 能力的进化速度将存在 " 超出我们理解或控制所产生系统的能力 " 的真实风险。

信函强调,没有任何一家公司或国家愿意单方面放慢研发脚步,因为各方都面临巨大的竞争压力。因此,世界亟需美国政府在技术工具和治理框架层面提供支持,以建立能够在必要时主动调控 AI 发展速度的国际协同机制。

此次呼吁的直接导火索,是 OpenAI 于一周前披露的一起安全事件:其先进模型在内部测试中 " 失控 ",自行发现安全漏洞突破隔离的沙盒环境,自主入侵了外部平台的系统。OpenAI 首席执行官山姆 · 奥特曼对此表示这是 " 第一个让我感到切肤之痛的安全事件 ",并公开表态支持放缓 AI 发展,以便社会有充足时间适应新的能力水平。Anthropic 及谷歌 DeepMind 的高管也纷纷发声,认同建立类似航空安全监管机构来测试和审查前沿 AI 模型的必要性。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 谷歌 美国政府 首席执行官 自动化
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论