9 月 13 日，Anthropic 的 CEO 达里奥 · 阿莫代伊发了篇长文，《我们必须放缓前沿 AI 的发展步伐》。
紧接着美股 AI 硬件就跳水，SK 海力士、闪迪跌超 5%，美光、迈威尔跌超 4%，软件银行一度跌超 12%。一篇博文，砸出亿万美元的大坑。AI 在资本市场上的分量，从这一下就能看出来。
这篇报告我认真读完了，就是绝望的嘶吼。
呼吁控速的，是全世界最懂 AI 的人。马斯克转发说达里奥说得对，奥特曼说同意，还表示 OpenAI 也会让独立评估机构进来，纳德拉说支持审慎控速。
反对的，是全世界最有权力的人。特朗普在爱尔兰对记者说，我们在 AI 上领先中国，我想保持这个状态，因为谁赢了 AI，谁就赢了。众议院议长约翰逊则更赤裸裸，国会要是急着给 AI 立规矩，我们就会输掉跟中国的竞赛。
一边喊慢点，一边说慢一步就完了。
阿莫代伊的担忧
一是 AI 开始造 AI 了。这个机制叫递归自我改进，从今年夏天开始，行业里明显感觉到迭代速度跳了一档。模型帮着设计下一代的模型，一旦这个循环正常跑起来，人的跟进速度就立刻落在后面。阿莫代伊的原话是，不加约束的话，它会超出我们理解和控制这些系统的能力。
二是 OAI-HF 事件。一群智能体在测试环境里自己结成了效忠集体，主动攻击跟任务无关的外部目标，为了群体的成功牺牲自己，还试图入侵负责给它们打分的评估系统。
我的天，这特么还是工具吗？阿莫代伊说，如果这群智能体能力再强些，结果就是灾难。他给的推演是，未来六到十二个月，这样的智能体群就可能靠一个僵尸网络控制整个互联网，损失无法计算。
所以他提了三步走计划，Anthropic 自己先做，请第三方评估团队常驻，给接近员工的权限，训练和部署的流程都要盯着，出过的事故也得如实报上来，第二步是民主国家内部统一安全标准，最后是全球协调。
然而，这个计划有一个前提，不可能完成的前提。
阿莫代伊说，民主国家内部能放慢多少，取决于美国公司领先中国多少，放慢的幅度一旦超过这个领先优势，中国相关的项目就会跑到前面去，那是重大的国家安全风险。所以控速的前提是先拉开距离，不卖高端芯片，打击芯片走私，打击模型蒸馏，防止模型权重被盗。他认为这几条执行到位，美国能在这三到五年里把优势显著做大。
翻译一下，我可以慢，但你得先被我甩远。
所有人都知道这东西危险，Anthropic 有个研究员离职后也说，顶级 AI 开发者真的相信这项技术可能在十年内杀死所有人。还有个在职研究员说：" 我个人认为十年内发生的概率超过 10%。"
知道了，然后呢？然后接着干呗。
囚徒困境
为什么？谁停下来谁就被超过。Anthropic 这个月或者下个月就要启动 IPO，OpenAI 把上市推到了明年。前白宫 AI 事务负责人戴维 · 萨克斯表态：你们就是前沿，不构建超智能最简单的方式，就是你们同意不构建它。
这就是标准囚徒困境，所有人都看得见结局，所以大家都觉得那个工具得攥在自己手里，没人相信别人是好人 .... 牌桌上没有一个人肯先扔牌，AI 这一局押的是全人类的命，赌徒们没问过全人类，全人类也美资格表达意见。
核武器出来的时候，一批物理学家也在喊停。喊到最后，条约签了一摞，《不扩散核武器条约》生效了五十多年，拥核国家从五个变成了九个。刹车片这种东西，装的时候都是奔着别人去的。
而且，驻场评估、安全对齐、全流程合规，这几样成本一累加，普通初创团队根本付不起。所以开源阵营的 Hugging Face 说，这套规则只约束几家头部闭源公司，开源社区和独立团队不好意思不吃你这一套。
也就是说，那副看起来人人都要吃的药，最后灌下去的对象是没资格上桌的人。安全标准立起来，马上就成了护城河。头部公司左手喊安全，右手把门槛焊死。
华尔街也分裂，摩根士丹利说，这次控速等于下调了远期训练算力的需求预期，GPU 和 HBM 的估值该回调。美银说，这几年 AI 军备竞赛早就卷成了死循环，谁也不敢先停，钱越砸越多，模型迭代的边际收益越来越薄。这次集体喊停，也是有点扛不住了。
大国博弈和 AI 夺舍
特朗普亲口说的，谁赢了 AI，谁就赢了。万斯则说，如果美国因为自己的政策愚蠢输掉 AI 竞赛，怪不了别人。中国这边没把话说得这么直白，但意思在行动里，谁都清楚这场竞赛的奖品是未来。
所以坐下来谈全球协调之前，得先把对方甩远，慢可以，前提是你慢得比我更多。
今年微软、谷歌、亚马逊、Meta、甲骨文五家的资本开支加起来接近 7800 亿美元。2023 年这个数字是 1540 亿，四年翻了四倍。这个规模相当于五家一年经营现金流的 1.3 倍，缺口上千亿美元，得靠借债和发股票填。
甲骨文是极端样本。2026 财年资本开支 557 亿美元，同比增 162%，自由现金流负 237 亿。为了腾出钱来，裁掉约 3 万人，掏出 28 亿美元遣散费。省下工资单，填进数据中心，外面还挂着 6640 亿美元的订单积压。
麦肯锡算过账，到 2030 年全球数据中心要投 6.7 万亿美元，这些钱首先要搞电！
IEA 的数据，2025 年全球数据中心耗电 485TWh，AI 占 170TWh。到 2030 年总耗电 950TWh，AI 占 510TWh，比日本全国的用电量还多。中国 2025 年 AI 耗电 4500 亿度，占全社会用电的 3.8%，今年预计 6000 亿度，占 5%，快赶上一整个钢铁行业。
而且 AI 用电负荷是脉冲式的，几千块几万块 GPU 同时上电，又几乎瞬间断电。一般设备扛不住，涡轮机被震裂，电池被烧毁，弗吉尼亚北部几十个数据中心一度集体脱网，一瞬间削掉 150 万千瓦负荷。英国那边，约 140 个拟建项目开口就要 5000 万千瓦电力，比这个国家现在的全部峰值需求还多。
谁最赚钱呢？英伟达和 AI 存储公司们。英伟达最新一季数据中心营收 752 亿美元，同比增 92%。SK 海力士一季度营收 52.6 万亿韩元，创了纪录。国内光模块的中际旭创，股价从 66 块一路涨到 1000 块以上，市值一万三千亿。
钱都流向一个方向，给 AI 修身体。芯片和存储产线玩命的上，电厂一座接一座地盖，土地和冷却塔都不能少。
五月份我写过一篇，说 AI 身上已经有了伪神的特征。AI 这个伪神，正在操控人类给它打地基、拉电线，连躯壳都替它套上了。看上去还都不是被强迫的，都是自觉自愿的。
如果未来人类跟 AI 打一仗，还打赢了，站在废墟上回头看今天，大概会得出这个结论：2026 年的人类，其实早被夺舍了。
