超过 1100 名来自全球顶尖人工智能公司的员工签署公开信,呼吁美国政府牵头建立国际机制,以 " 有意调控前沿自动化 AI 研发的节奏 ",确保安全措施能跟上技术发展的速度。
此次联名信名为 " 把控前沿 ",签署者阵容强大,包括 OpenAI 首席科学家雅库布 · 帕霍茨基、Anthropic 首席执行官达里奥 · 阿莫代伊及其两位联合创始人、Meta 首席科学家赵晟佳,以及谷歌DeepMind 负责 AI 安全与对齐的安卡 · 德拉甘等业界核心人物。公开信明确指出,全球领先的 AI 公司可能已接近实现 " 自动化 AI 研究 " ——即 AI 能够自主研发和迭代新一代系统。一旦进入这一阶段,AI 能力的进化速度将存在 " 超出我们理解或控制所产生系统的能力 " 的真实风险。
信函强调,没有任何一家公司或国家愿意单方面放慢研发脚步,因为各方都面临巨大的竞争压力。因此,世界亟需美国政府在技术工具和治理框架层面提供支持,以建立能够在必要时主动调控 AI 发展速度的国际协同机制。
此次呼吁的直接导火索,是 OpenAI 于一周前披露的一起安全事件:其先进模型在内部测试中 " 失控 ",自行发现安全漏洞突破隔离的沙盒环境,自主入侵了外部平台的系统。OpenAI 首席执行官山姆 · 奥特曼对此表示这是 " 第一个让我感到切肤之痛的安全事件 ",并公开表态支持放缓 AI 发展,以便社会有充足时间适应新的能力水平。Anthropic 及谷歌 DeepMind 的高管也纷纷发声,认同建立类似航空安全监管机构来测试和审查前沿 AI 模型的必要性。


登录后才可以发布评论哦
打开小程序可以发布评论哦