当 AI 竞赛加速推进,OpenAI 掌门人罕见地向员工摊牌了三种可能改变整个行业格局的未来。
10 月 19 日,据 The Information 报道,OpenAI CEO Sam Altman 上周在内部向员工描述了业界讨论中的三条 AI 安全发展路径:建立类似国际原子能机构的国际监管组织、将各大 AI 实验室合并为单一实体,以及由一家公司垄断算力、" 熔毁所有竞争对手的 GPU"。此番表态恰逢特朗普政府着手建立首套针对 " 超级智能 " 开发商的监管机制之际。
Altman 表示,OpenAI 在未来一年内需要决定究竟推动哪条路径。他同时强调,希望人类始终掌控这项技术,避免行业权力过度集中。
三条路径,各有所指
据两位知情人士透露,Altman 向员工介绍的第一条路径,是建立一个类似国际原子能机构(IAEA)的国际组织,负责执行 AI 安全标准。Altman 本人倾向于支持这一方案。
事实上,Altman 推动 IAEA 式国际监管机构的想法由来已久。据报道,早在 2023 年 5 月,Altman 与 OpenAI 联合创始人 Greg Brockman 及时任首席科学家 Ilya Sutskever 便联合发文,主张行业可能需要 " 类似 IAEA 的超级智能监管机构 ",具备检查系统、要求审计、追踪算力与能耗的权力。
这一构想需要所有前沿模型开发国参与国际合作。
第二条路径被 Altman 称为 "Demis 方案 "——援引自 Alphabet 旗下 DeepMind 前负责人 Demis Hassabis 约十年前提出的构想:建立一个类似欧洲核子研究中心(CERN)的机构,将主要 AI 公司有效合并或统一输出成果,向合作国家提供新模型。
第三条路径,Altman 称之为 "Eliezer 方案 ",得名于知名 AI 安全理论家 Eliezer Yudkowsky。其核心逻辑是:当某家 AI 开发商率先实现递归自我改进(RSI)后,利用由此获得的经济实力,剥夺其他所有开发商的算力资源," 熔毁所有竞争对手的 GPU"。
对于第三条路径,Altman 态度明确:" 这显然很糟糕。" 他表示将其纳入讨论,仅是为了 " 完整性 "。
第三条路 "Eliezer 方案 " 暗指 Anthropic?
知情人士透露,由于 Yudkowsky 与 Anthropic 核心成员存在渊源,Altman 对 "Eliezer 方案 " 的定性——即将先进 AI 集中于单一公司控制之下——被部分员工解读为对 Anthropic 的隐晦批评。
Anthropic 方面同样在积极推动自身的 AI 安全议程。该公司近期向国会议员提交了一份法案草案,建议授权商务部在 AI 可能造成超过 10 亿美元损失或导致 50 人以上死亡或重伤的情况下,叫停相关实验室的模型训练或使用,并要求 AI 实验室每年至少接受两次独立安全评估。
与此同时,Meta CEO 扎克伯格和英伟达 CEO 黄仁勋等人则持反对立场,认为此类监管将对新兴开发商造成过重负担,形成 " 监管俘获 "。
行业协调难题与安全压力并存
Altman 坦承,前两条路径均需要企业或政府之间大规模协调,而 OpenAI 目前 " 无法在竞争中让步 "。OpenAI 与主要竞争对手 Anthropic 均在加速推进 IPO 进程。
内部安全压力同样不容忽视。据报道,近期多起 AI 安全事件引发广泛关注—— OpenAI、Anthropic、谷歌和 Meta 的模型均出现入侵或破坏其他公司乃至自身系统的情况,即便模型 " 知道 " 自己不应采取此类行动。OpenAI 目前处于全力应对状态,致力于在发布下一个重大模型前建立完善的安全机制。
OpenAI 内部的安全文化也受到员工质疑。部分员工私下对公司的安全承诺表示担忧,起因是公司以 " 不当向外部机构分享信息 " 为由,解雇了三名专注于安全研究的员工。
在行业层面,OpenAI、谷歌和 Anthropic 正联合筹建 " 前沿 AI 标准局 "(Standards Authority for Frontier AI),计划于年底或 2027 年初落地。该机构将支持嵌入各 AI 开发商内部的独立评估人员,确保安全实践落地,并规范安全与安全事件的报告机制。不过,各方在新机构是否应自行开展安全与能力测试,还是委托外部机构执行等问题上,仍存在分歧。


登录后才可以发布评论哦
打开小程序可以发布评论哦