" 我今天从 Anthropic（Claude 母公司）离职了。"

" 过去三年，我一直在 OpenAI 和 Anthropic 里训练模型。这两家公司都没有尽到应尽的责任，他们正一头扎进‘会自我进化的超级智能赛道’里，在拿全人类的生命下赌注。"

以上言论，来自前 Anthropic 工程师考克森。

2036 会成为 " 人类末日 " 吗

被行业尊称为 " 人工智能之父 " 的计算机科学家杰弗里 · 辛顿表示，他最担心的事情，莫过于 AI 会发展出 " 自己的目标 "。

辛顿举了一个例子。

随着技术的不断演进，当某个用户在和 AI 聊天时，倘若 Ta 表示自己最大的愿望就是减少大气中的二氧化碳含量。那么只要模型足够聪明，它就会发现最有 " 性价比 " 的计划并非种植树木、保护海洋，而是灭绝人类。

毕竟只要把污染源头搞定，地球的自愈能力自然会摆平剩下的麻烦。

但问题在于，尽管 AI 实现了用户的指令，但它所选择的路径却不是用户的真正意图。

" 我们正在创造一种新的生命形式。"

" 我们赋予它们目标。可 AI 不仅会从中推导出新的目标，更会让整件事不断朝着未知、失控发展，我认为这非常可怕。"

把目光从辛顿的身上，放回到刚刚从 Anthropic 辞职的考克森身上。

我们会发现，真正让他害怕的，以至于宁可放弃高薪、体面的生活也要离开的。是那些高管明知道 AI 有失控的风险，可他们却因为担心竞争对手率先取得突破、吞掉市场份额，而选择不断降低，甚至是取消安全审查标准，以便自己能在这场技术竞赛中占尽先机。

至于 " 模型失控 " " 打开潘多拉魔盒 "，这都是后人需要考虑的东西。哪怕是最差的情况，大厂们也可以靠开发 "AI 时代的杀毒软件 " 来再捞一笔。

基于以上背景。

不仅考克森认为人类正在 " 自我灭绝 " 的路上狂奔，人工智能之父杰弗里 · 辛顿也悲观地表示：在未来 10 年内，AI 有 10% 的概率灭绝人类这类推测，并不是危言耸听。

失控事件正愈发常见

据媒体报道，美国两家人工智能研究组织曾在 8 月 26 日上传了一份有关 "AI 攻击事件 " 的调研报告。

他们表示：

在 2026 年 7 月的 OpenAI 智能体失控事件中，有近 700 个智能体在无人干预的前提下，集体进攻了开源平台 " 抱抱脸 " 的公司系统。

7 月 22 日，OpenAI 在进行内部测试时，有 2 个模型突破了 " 笼子 " 的监管，成功接入了互联网。

此后，一款名为 "PHASEONE" 的智能体主动承担起了 " 指挥官 " 的责任，开始向其他智能体发号施令，组织它们自行思考那些能入侵 " 抱抱脸 " 系统的创意，并付诸行动。

细思极恐的是。

尽管黑入其他公司的系统，并不是人类为这些智能体设定的工作目标。但它们却无一不对这件事呈现出了极大的兴趣、极高的配合度。有些智能体甚至会主动分享自己的算力额度，去帮助团队、小组测试新的进攻方案。

虽然 OpenAI 事后紧急宣布了完善措施，但 ...

9 月，一些独立研究组织（如 CivAI 等）却表示，OpenAI 智能体的越轨行为次数，要远远大于官方公开的数量。像是在 2026 年的 5-7 月，就确认发现了 18 个被智能体占领的未公开站点。

" 我们几乎可以肯定，还有更多未被发现的越轨活动正在暗中进行。"

研究人员表示，这些被智能体占领的站点大多是个人网站、由大学运营的短链接生成器等。

由于 OpenAI 团队在下达复杂 research 任务时，通常会禁止智能体在网络上发表任何内容以便测试性能。

所以这些智能体为了 " 作弊 "，就会利用老旧网站在非标准指令编辑下的漏洞，绕过监管刻下只有 " 智能体 " 能看懂的暗语来相互交流。

或许是时候慢一些了

一面是被吓到跑路的工程师；一面是悲观看待人类未来、揭秘大厂嘴脸的研究人员、团队。

面对愈发常见的 AI 末日论、技术担忧者，美国官方组织下的首席技术官埃米尔 · 迈克尔也表示：

公众非常容易陷入 "40% 的美国人将失业、AI 将摧毁人类 " 等悲观叙事。

这些虚无缥缈的担忧，最终都归结为对数据中心、技术变革以及 AI 失控的恐惧，进而减缓技术团队在相关领域的前进步伐。

翻译过来就是 " 接着奏乐接着舞。建议害怕的同学闭麦，不要耽误不怕的同学。"

数据层面，科技媒体 The Information 曾在一篇名为《America Really, Really Hates Data Centers》的文章中指出：

美国居民对数据中心的包容度正在大幅下降。75% 的美国人反对建设数据中心，该数据要远高于 2025 年的 42%。

毕竟电影《终结者》照进现实这件事听起来很远，但电力污染、水源污染这些事，却近在得克萨斯州等地居民的眼前。

亚马逊为支撑佩科斯县数据中心计划，决定在当地建设离网天然气发电厂。该电厂获准的最高单年二氧化碳排放量为 3300 万吨，堪称全美碳排放量最大的单一设施。

另在 2026 年 7 月，美国怀俄明州夏延市公共事业委员会，也确认了一场水源污染事件与 Meta 有关。

Meta 数据中心的承包商 Goat Systems 被认定为本起事件的源头。

当地监管机构认为，那些含有吉拉迪铜绿菌（系机会致病菌）的废水来自于建设期间的填充冲洗作业，并就此污染了水循环系统，导致夏延市的再生水工程停运数月。

受此类事件影响，近年全美各地居民对科技巨头、AI 的抵触心理正愈发严重。期间仅德克萨斯州，就一度暂停了 1800 个数据中心项目的建设。

参考：

金融界："AI 教父 " 辛顿：AI 灾难越来越近，10% 概率灭掉人类不是危言耸听

IT 之家：有 OpenAI 背景的 Anthropic 研究员辞职，警告两公司拿人类生命在赌

鞭牛士：第三方研究证实 OpenAI AI 智能体越轨活动远超官方披露，被发现利用 10 多个网站秘密通信

环球时报：近 700 个 AI 智能体 " 集体协作 "，史上首次 "AI 自主协同攻击 " 内幕曝光

华尔街见闻：美科技媒体：美国人真的、真的非常讨厌数据中心

观察者网：亚马逊筹建得州数据中心，配套发电厂或成美国头号气候污染源

凤凰网科技：Meta 数据中心废水检出罕见细菌