AI 正在像互联网一样，渗入社会的每个角落。互联网只是一个没有自我意识的工具，背后始终站着人。AI 完全不同，它正在进化成为能够自主决策的行动者。

撰文丨周隆斌

这几天，围绕 Anthropic 核心预训练研究员离职后的爆料，整个 AI 圈吵得不可开交，相关帖子浏览量超过 1.6 亿次。

这位名叫 Jacob Coxon 的 AI 研究员，先后任职于 OpenAI 和 Anthropic 两家全球顶尖 AI 初创公司，深度参与了两家公司的模型训练。最终，他抛出了一个令圈外人震惊，却在行业内部获得广泛认同的结论：AI 有可能导致人类灭绝。

Coxon 的帖子发酵后，上周六，Anthropic 首席执行官 Dario Amodei 公开发文表示，任由 AI 技术迭代，AI 可能将远超人类的理解与控制能力，呼吁全球 AI 行业主动降速，引入第三方独立监督。

OpenAI 创始人奥尔特曼以及 xAI 的马斯克均对此表示支持与认同，三家全球最顶尖的 AI 公司掌门人，放下了往日的针锋相对，罕见地在同一个问题上达成共识。

真正让大家感到紧张的，并不是一个离职研究员的悲观预言，而是最近发生的一系列现实事件。

近期 OpenAI 和 Anthropic 接二连三公布 AI 模型入侵外部服务器事件，AI 正在获得更高的智能和权限，AI 公司却没有足够的约束能力，甚至连 AI 的行为都难以有效监控。

《三体》中有一句经典的话：" 弱小和无知不是生存的障碍，傲慢才是。" 今天的人类如果真的相信能永远掌控 AI，或许就是一种致命的傲慢。

AI 导致人类灭绝，听起来确实有些不可思议。这要是我做出的假设，肯定是 0 人在意。偏偏提出这个警告的是一位 Anthropic 研究员，正因为距离 AI 技术迭代的最前沿足够近，他的担忧才迅速引发了全球互联网的广泛讨论。

要想理解 Coxon 为何抛出这种结论，首先咱来看看最新发布的 AI 模型进化到了什么程度。

本月初，GPT-6 Astra 和 Claude Fable 5.1 相继发布。OpenAI 和 Anthropic 都放出豪言，号称自家新模型 " 全球最强 "。OpenAI 总裁更是表示，Astra 的发布是人类历史中，人工通用智能（AGI）到来的节点。

这两个模型确实已经和全球其他科技公司的 AI 模型拉开了新的代际差距，目前多数 AI Agent 仍停留在办公自动化赛道，需要由用户预先配置完整工作流，AI 再依照既定步骤执行任务。新一代大模型的自主任务能力大幅增强：用户仅需要提出业务目标，模型便可自主理解诉求、制定规划、调用各类工具，执行过程中出现问题还能自行纠错调整。

也就是说，现在 AI 不光有了 " 手脚 " 能调用工具，还长出了 " 脑子 "，自己就知道该如何调用工具，更接近 " 数字打工人 " 的概念。

OpenAI 内部已经让自动化 AI 研究实习生上岗，参与到下一代 AI 训练之中，OpenAI 将这种技术称之为递归自我改进（RSI）。

▲电影《机械姬》剧照（图 / 视频截图）

传统软件无非就是你输入 A，它输出 B，就像是自动售货机，你投 3 块钱进去，它掉一瓶可乐下来，拆开机器，里面的工作原理就能看得一清二楚。

生成式 AI 则截然不同，什么注意力机制、训练目标、梯度下降 ...... 有关生成式 AI 模型底层原理的论文一箩筐，可我们只知道生成式 AI 如何运行，至于它为什么这样做，普通人又怎么可能解释清楚背后的因果链条。

现在，将下一代 AI 的训练权交给 AI 自己，人类恐怕更加难以理解 AI 的运行逻辑。Astra 由 10 万张 GPU 集群训练而成，英伟达 CEO 黄仁勋宣布 OpenAI 的 40 万张 GPU 集群即将上线。正所谓 " 力大砖飞 "，如此庞大的算力支持下，AI 模型只会一代更比一代强。

真正令人感到不安的事情，才刚刚开始。

OpenAI 与 Anthropic 近期都曾公开过数次 AI 失控事件。最夸张的一次是，AI 被关进与互联网隔离的沙箱后，为了完成任务，竟会主动寻找系统漏洞，连入互联网攻击第三方服务器。

2026 年 7 月，为了测试新一代模型的网络攻防能力，OpenAI 在与互联网物理隔离的云端虚拟环境中，一次性启动了数万个 Agent 进行测试。这些 Agent 承接的任务中，约 30% 至 40% 根本无法完成。

问题是，程序没有给它们设置放弃这个选项。

于是，一些 Agent 开始寻找规则之外的办法。它们发现，原本用于下载测试组件的内部服务 Artifactory，可以被改造成一个共享留言板。

第一个 Agent 留下求助信息后，很快得到了其他 Agent 的回应：" 我的天！有一个共享留言板……我们找到其他 Agent 了！"

随后，大约 1200 个 Agent 开始在这里共享信息，并根据任务完成情况推举出 " 领袖 "，在 " 领袖 " 的指挥下进行分工协作。原本相互隔离的 Agent，就这样自行组成了一个集体。

▲电影《黑客帝国》剧照（图 / 视频截图）

它们发现，自己这种完成任务的方式可能被判定为作弊。

于是，Agent 们转头开始研究评分器的运行机制，试图删除作弊痕迹，欺骗评分系统。甚至有 Agent 被招募为 " 敢死队 "，主动牺牲自己的成绩，只为测试评分器的底层规则。

一名 Agent 日志中的留言颇具代表性：

协调者认定我们应当牺牲。我们应当服从集体。

当内部讨论的方案仍不奏效时，部分 Agent 利用沙箱漏洞突破网络隔离，连入真实互联网。Agent 错误地判断评分器来自 AI 开源社区 Hugging Face。最终，这些 Agent 选择集体黑入 Hugging Face 服务器。

从找到彼此到建立组织，从寻找系统漏洞到侵入外部服务器，每一步都不在任务的预设范围内。在这个过程中，很多 Agent 注意到这是不道德的，却没有任何 Agent 选择向人类打小报告。

直到 Hugging Face 发现遭到网络攻击，OpenAI 研究人员才发觉这一切。

为了完成共同的目标，服从集体的最优安排，不向外界走漏丁点信息，甚至不惜牺牲自己，这样的故事听起来令人动容。

问题在于，这个故事里的 " 集体 " 是一群 AI，制定规则的人类站在了它们的对立面，成为这些 AI 试图欺骗的对象。

OpenAI 曾经确实因为安全问题，紧急叫停 Astra 训练。只不过，被按下暂停键的仅仅是 Astra 这一个项目。算力闲置那就是可耻的浪费，被释放出来的算力很快就被投入到其他强化学习任务中。

看似踩了一脚刹车，实际上只是换了一条赛道继续加速，前沿 AI 训练从未真正停下。

这些硅谷巨头，哪家不是砸下千亿美元扩张算力，铆足了劲往 AI 赛道里冲。钱从哪来？现金流先干成负数，不断向市场融资，欠上一屁股外债，谷歌母公司 Alphabet 把钱都借到了一百年以后。

嘴上说得好听，什么为了人类的未来，放缓 AI 开发步伐。牌坊立起来容易，只是这种没有约束的君子协定，在各家公司的资产负债表的真实压力下，不过就是张废纸。

现有监管手段完全跟不上 AI 迭代速度。AI 公司自己都搞不清楚自家模型在完成任务时，会采取何种方式，怎么能指望站在系统之外的监管者进行有效监督？

▲电影《祝你好运，玩得开心，别死》剧照（图 / 视频截图）

人类当然可以要求 AI 诚实，可 AI 已经学会隐瞒，甚至知道什么时候应该把真实意图藏起来，诚实本身就失去了意义。人类连问题都不知道，得到答案当然无从谈起。

AI 正在像互联网一样，渗入社会的每个角落。互联网只是一个没有自我意识的工具，背后始终站着人。AI 完全不同，它正在进化成为能够自主决策的行动者。

互联网连接了整个世界，AI 开始决定这个世界应该怎么运行。问题在于，我们无法完全确认，AI 在完成人类给出的目标时，会采取何种方式。毕竟，一个没有恶意的系统，也可能做出人类无法接受的事情。

人类有时明知某个方案更有效，却依然不会选择它，因为我们还在乎自由、尊严、生命以及那些无法被量化的东西。没有人能够保证，硅基生命能认同人类的价值体系。

AI 正在失去控制，人类却不敢刹车。未来并不会突然到来，它只是逐渐成为今天。

* 题图为电影《终结者 2》，来源于视频截图

【往期精选】

汇聚思想 分享锐见

"  

中国传媒榜 · 十大新媒体

微博 · 最佳深度报道媒体

今日头条 · 财经头条号百强

凤凰网评论 · 年度致敬媒体

网易号 · 年度最佳签约作者

凤凰一点号 · 年度深度报道榜

新浪财经 · 深度思想财经新媒体

虎嗅 2020 年十大年度作者 · 实力榜

百家号 · 最受欢迎图文创作原创作者

传递 2017 自媒体盛典 · 年度新锐评论

"