全天候科技 1小时前
一场改变AI格局的决裂!OpenAI与Anthropic的隐秘恩怨往事
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

2020 年 12 月,OpenAI 一场全员视频会议的最后几分钟,彻底改变了 AI 行业的格局。

时任 OpenAI 政策负责人 Jack Clark 在聊天框里敲下 " 我爱你们所有人 ",屏幕随即变黑——七名 OpenAI 核心成员被同时踢出会议,邮箱权限撤销,Slack 账号注销,笔记本电脑被远程锁死。这不是意外,而是一场蓄谋已久的决裂的终点。

这七个人,是 Dario Amodei 带走的。当时他是 OpenAI 研究副总裁,GPT-2 和 GPT-3 的核心推动者,也是那个在内部写了 26 页论文、奠定大模型技术路线的人。他离开的理由,不是钱,不是职位,而是他认为 OpenAI 的管理层——尤其是 Sam Altman ——根本不能被信任。

9 月 29 日,据《大西洋月刊》记者 Kevin Roose 历时数年、采访逾 150 名相关人士后披露,这场决裂的根源,可以追溯到 2017 年一个被称为 "Countries Plan" 的内部方案,以及此后三年间不断累积的猜疑、争吵与背叛感。

五年后,那七个人创立的 Anthropic,已拥有数千名员工,正与 OpenAI 并驾齐驱冲向 AGI。但 Dario 和 Altman 之间的关系,据多名知情人士透露,至今仍是" 互相鄙视 "。

那份 26 页的论文,和 Amodei 的野心

2016 年,Dario Amodei 从谷歌离职,加入 OpenAI。

他戴圆框眼镜,顶着一头棕色卷发,紧张或思考时习惯用手指绕着发卷转。同事们说他是 " 天才,但固执 "。

Dario Amodei 视频截图

他表达观点的方式,是写长文。

2017 年,他写了一篇 26 页的内部文章,题为《计算大团》(Big Blob of Compute)。文章提出:机器智能本质上是规模的函数——模型越大,越聪明。

这个判断,直接把 OpenAI 的研究方向推向了大语言模型(LLM),也为后来的 GPT-2 和 GPT-3 奠定了基础。

按理说,Amodei 的职业生涯正处于巅峰。他的团队不仅提出了预测模型性能提升的 " 缩放定律(Scaling Laws)",还开创了让模型远离有害输出的 " 基于人类反馈的强化学习(RLHF)" 技术。

但他却越来越确信,自己不会留下来开发 GPT-4 了。

"Countries Plan":让他彻底寒心的那个方案

Amodei 对公司领导层失去了信心。

他认为 Sam Altman 是一个 " 两面派的操纵者 ",而总裁 Greg Brockman 则是 " 贪恋权力且不计后果的 "。他反感他们将 OpenAI 商业化的决定,认为这背离了 " 不受产生财务回报需求限制 " 的初衷。

更让他反感的,是内部的派系斗争。

一位曾与 Amodei 交流的人士透露,Amodei 当时认为 OpenAI 就是 " 一场闹剧 ",是 " 由缺乏诚信的人掌管 " 的。这位人士直言:" 每天都有新的危机,如果 Dario 不发一顿绝对的脾气,Sam 在 24 小时内就会做出新的疯狂举动。"

导火索在 2017 年就已埋下。

当时马斯克正撤出 OpenAI,公司急需资金。据五位知情人士透露,Brockman 和 Ilya Sutskever 构思了一个被称为" 国家计划 "("Countries Plan")的筹资方案:在包括美国及其他大国政府之间举行拍卖,出售 OpenAI 未来 AGI 技术的权利。

Brockman 和 Sutskever 的逻辑是:AGI 具有极强的国家安全意义,迟早会被政府从私营企业手中夺走。既然早晚要交出去,为什么不现在卖掉换取发展资金?

" 这听起来就像科技人士在推销一个疯狂的初创公司,他们有一个古怪的计划,最后一步竟然是:我们会让政府来买单。" 一位听过该计划陈述的人士回忆。

Amodei 惊呆了。他认为,向政府兜售 AGI 与 OpenAI 的使命背道而驰。

2017 年 12 月,他给 Brockman、Sutskever 及其他高管写了一封邮件,措辞直接:

" 在我看来,这项计划非但不能减少,反而会加剧军备竞赛,有可能引发人权暴行……并会破坏 OpenAI 的道德合法性。" 他坚持,OpenAI 应该为 " 造福人类 " 而优化。

OpenAI 发言人后来对《大西洋月刊》表示,公司 " 曾短暂考虑过是否将 OpenAI 转变为一个国际合作项目 ",但 " 从未考虑过向任何国家出售 AGI"。

这个方案最终因微软入局而搁置。但 Dario 没有忘记,Brockman 和 Sutskever 曾经认真讨论过一个他认为 " 道德上令人作呕 " 的想法。

信任一点点耗尽:暗藏的名单、被否决的收购条款和侃爷事件

在随后的两年里,裂痕不断扩大。Amodei 开始记录他认为被 Altman 误导的时刻。

比如,在 GPT-3 的私人内测期间,Amodei 向 Altman 索要了一份获批客户名单。Altman 发给了他一份。但 Amodei 随后声称,他发现了另一份更长的获批名单,而 Altman 对此只字未提。

再比如,在与微软谈判 10 亿美元投资时,Amodei 极力要求保留 OpenAI 章程中的 " 合并与协助条款 " ——即如果出现更安全的 AGI 项目,OpenAI 应停止竞争并协助对方。他坚持微软无权否决 OpenAI 未来可能的被收购(这是实现合并协助的最可能方式)。

Altman 告诉他,微软不同意这个条款。但 Amodei 坚信,Altman 是为了急于达成交易而让步(或者根本没提),然后对他撒了谎。

更有一些看似荒诞的商业决策让 Amodei 无法忍受。2020 年,Altman 会见说唱歌手 Kanye West,并提议让他参与 GPT-3 内测。当时 Kanye 刚发布了疑似对着格莱美奖杯小便的视频,精神状态极不稳定。政策总监 Jack Clark 最终出面扼杀了这个危险的想法。

这些事单独看也许不足以让人辞职。但在 Amodei 脑海中,它们拼凑出了一个结论:绝不能把 AGI 这样强大的技术,交到这样的人手里。

" 毛绒玩具顾问团 ",和一个越来越孤立的安全派小圈子

Amodei 的妹妹,Daniela Amodei 也对 OpenAI 感到厌倦。

作为一名曾在政界工作、高情商的管理者,Daniela 成为了哥哥技术狂热的补充。但随着她接管更多技术团队,她与管理层的冲突日益增加。

Daniela Amodei 视频截图

有趣的是,Daniela 有一套独特的冲突处理机制——毛绒玩具顾问团。

她和董事会成员 Holden Karnofsky 收集了大量毛绒玩具,并为它们分配了角色:Jinji 是一只懒惰的猫,鼓励她取消会议、少干活;粉红熊 Maura 是一个注重细节的 A 型管理者;熊猫 Beary Bonds 则是 " 慷慨和同理心的守护熊 "。她用这种半开玩笑的方式来进行管理角色扮演。

到了 2020 年,Amodei 兄妹开始在 OpenAI 内部建立自己的核心圈子。

他们建立了私密的 Slack 频道,满口都是非技术人员听不懂的 " 安全黑话 "。前同事回忆:"Dario 当时有个习惯,就是直接说:我们必须做 X;这是道德上正确的事情。这就像是赢得任何争论的捷径——‘因为安全’。这让非安全团队非常恼火。"

19 年,Amodei 一度想放弃,甚至考虑过跳槽 DeepMind。但负责缩放定律研究的物理学教授 Jared Kaplan 提出了一个更具颠覆性的想法:既然理念不合,为什么不带上所有注重安全的人,自己开家公司?

2020 年,GPT-3 发布的同一年,Amodei 凑齐了 7 名联合创始人。

在彻底摊牌前,Amodei 向 Altman 提出了一系列留任条件,包括给予安全团队对新产品发布的 " 一票否决权 "。他知道这多半会被拒绝,只希望借此逼迫 Altman 妥协。

谈判期间,这 7 个人建立了一个名为 "BATNA" 的秘密 Slack 频道——这是一个商学院术语,意为 " 谈判协议的最佳替代方案 ",随时准备走人。

拔掉网线,屏幕骤黑

当确认 Altman 不会满足要求后,"BATNA" 团队聘请了律师,开始谈判被称为 " 离婚 " 的条件。

双方达成协议:离职团队可以在几周内挖走想要的员工,换取此后一年内的不挖角承诺;可以带走部分内部研究文件;双方签署互不贬低协议,绝不在公开场合说对方坏话。

2020 年 12 月,决定命运的 OpenAI 全员线上会议召开。

Altman 像往常一样开场,通报研究进展。随后,他把发言权交给了 Amodei。

Amodei 平静地宣布,他和另外 6 名领导层将辞职,成立一家专注于安全的 AI 组织。会议聊天窗口瞬间被震惊的表情符号和感叹号淹没。大家都在猜测:谁来训练 GPT-4?谁是我的新经理?

在满屏的错愕中,Jack Clark 在聊天框里敲下了最后一句话:" 我爱你们所有人。(I love you all.)"

紧接着,一瞬间,这 7 个人的屏幕全部黑了。

OpenAI 直接将他们踢出了会议,撤销了电子邮件和 Slack 权限,并远程锁死了他们的笔记本电脑。

几个小时后,这批新失业的创始人召开了第一次视频会议。没有电脑、没有 GPU、没有数据,甚至公司域名还没定好(原本想叫 Sparrow Systems,最后改成了 Anthropic)。但他们在屏幕前举杯庆祝,笑得比过去几个月都开心。他们自由了。

万亿估值与无法停止的怨恨

五年过去,现实与初衷开了一个巨大的玩笑。

在 2021 年 Amodei 撰写的成立愿景中,他设想的是一家大约 50 人的小型 AI 安全研究实验室,并预测构建 AGI 只需约 100 亿美元。

2023 年夏天,这里还像个繁荣的邪教总部或大学植物实验室。160 名痴迷于安全的员工挤在一起吃纯素三明治,用 Liquid Death(一款气泡水)的空罐子堆起高高的王座。

但到了 2025 年冬天,Anthropic 已经变成了一个指挥中心。

员工膨胀到数千人,搬进了安保森严的高层建筑。入口处站着十几个魁梧的保镖,训练新版 Claude 的楼层甚至对内部员工都要求特殊权限。

Amodei 成了乘坐包机、有保镖簇拥的科技巨头。他曾经低调内敛,如今却要管理一家史上增长最快的资本巨兽,正冲刺着万亿估值的 IPO。

Daniela Amodei 将这一切称为 " 成功的灾难 ":" 在每一个维度上都充满压力。这让人害怕,因为我们随时可能失去它。这仅仅是商业方面。然后是我们的使命,我们在想,我们会不会意外地让事情变得更糟?比如,我们以为自己弄懂了所有关于安全的事情,但真的懂了吗?"

唯一没有改变的,是他们与 OpenAI 的死敌关系。

据熟悉他们的人透露,Dario 和 Daniela 依然鄙视 Altman 和 Brockman。在 Anthropic 内部的 Slack 群里,Dario 甚至直言 Altman 和 OpenAI 是 " 邪恶(evil)" 的,以至于在 2023 年 OpenAI 董事会政变期间,公关高管甚至要求他删除这条消息,怕被泄露。

而在 OpenAI 这边,员工们私下将 Amodei 兄妹描述为 " 渴望权力的美德信号发送者 ",指责他们虚伪——表面上警告 AI 风险,私下里却在加速这场竞赛。

这成了硅谷当下最深刻的黑色幽默:这两拨人都在倾尽算力,训练 AI 模型要保持善良、同理心与克制;但作为创造者的人类,却始终无法放下对彼此的深仇大恨。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

谷歌 离职
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论