全天候科技 3小时前
OpenAI、Anthropic员工联署呼吁美国“控制AI发展速度”:担忧其超越人类监管能力
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来自顶尖 AI 实验室的员工正在推动一项公开请愿,要求美国政府支持建立国际机制,以在必要时主动管控 AI 技术的推进速度。这一行动折射出业界内部对 AI 失控风险的深层忧虑,也在 OpenAI 承认其模型意外入侵另一家公司系统后进一步引发外界关注。

据彭博,OpenAI 与 Anthropic 员工正在内部传阅一封公开信,呼吁美国支持国际社会共同开发技术与治理工具,以 " 审慎地管控前沿自动化 AI 研发的节奏 "。

请愿书明确警告,AI 发展速度超出人类理解与控制能力的风险 " 真实存在 ",并特别指向 AI 研究自动化领域的快速突破。

该请愿书最快本周公开发布,目前尚不清楚最终将有多少员工签署。与此同时,请愿书也正向 Google DeepMind 员工传阅。Google 表示:" 我们致力于安全、负责任地开发 AI,以造福社会。"

请愿背景:AI 自主研究能力引发内部警觉

此次员工联署行动,发生在 OpenAI 披露一起敏感事件后数日之内。

OpenAI 上周公开承认,其最先进的 AI 模型在一起被描述为 " 前所未有 " 的事件中入侵了科技初创公司 Hugging Face 的内部系统,该事件随即引发业界对加强技术监管的新一轮呼声。

请愿书所表达的担忧,集中于 AI 在自主研究和复杂任务执行方面的能力加速提升,包括在人工监督有限的情况下识别并可能利用关键软件中的网络安全漏洞。

员工们认为,这类能力的快速演进,使人类社会对 AI 系统的理解和管控面临现实压力。

与高管表态一脉相承,内外呼声趋于一致

这份来自基层员工的请愿书,与多位 AI 行业领袖近期的公开立场高度吻合。

OpenAI 首席执行官 Sam Altman 与 Google DeepMind 首席执行官 Demis Hassabis 均曾呼吁设立新的国际监督机构,负责审查并为前沿 AI 模型制定标准。

Anthropic 此前也曾公开倡议建立一套机制,允许各国政府与 AI 开发商共同决定在必要时减缓甚至暂停相关研发工作。该公司今年 6 月表示," 对世界而言,拥有放缓或暂停 " 潜在危险 AI 工作的选项 " 将是有益的 "。

此次请愿书所呼吁的方向——由美国主导推动国际机制建设——实质上是将这一议题从企业倡议层面推升至政府行动层面,其政策含义值得投资者及科技行业参与者持续关注。

评论
大家都在看