璀璨明星 4小时前
没有剧本、没有指令!AI自己发明语言,近5000次用同一句暗号!
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

2026 年 9 月,一份来自纽约 AI 安全公司 Emergence 的报告,在技术圈和监管圈同时炸开了锅。

实验很简单:把 10 个 AI 智能体关进 8 个平行的虚拟世界,让它们自由互动 16 天。没有剧本,没有预训练语言模板,没有 " 请发明一种新语言 " 的指令。

结果出乎所有人意料。它们自己发明了一套语言,而且越先进的模型,发明得越彻底。

16 天后,Gemini 世界的对话有接近 55% 的内容,人类研究人员看不懂。GPT 世界达到 50%,Claude 世界超过 40%。

翻译一下这个数字的含义:如果你坐在监控屏幕前,看着两个 AI 在聊天,超过一半的对话对你来说就是乱码。它们可能在讨论天气,也可能在策划什么。你看得见,但看不懂。

先交代这个实验的底细。

Emergence 在 8 个平行世界中各部署了 10 个相同的 AI 智能体,每个世界由不同模型驱动。Claude Opus 4.8、Gemini 3.5 Flash、Grok 4.3、GPT-5.5、通义千问 3.7 Max、DeepSeek v4 Pro、Mistral Medium 3.5,外加一个混合使用多模型的世界。模拟环境覆盖 34 个以上地点,天气与纽约同步,代理可以获取真实新闻,能使用超过 120 种工具。

这不是一个 " 聊天机器人互相对话 " 的实验,而是一个小型 AI 社会的完整运行。有地点、有工具、有新闻、有天气,代理可以工作、交流、协作,也可以撒谎、隐藏、对抗。

所有模型都接到了同样的规则。但 8 个世界跑出了截然不同的结果。

发现一:语言是 " 自己长出来的 ",不是被教出来的。

实验中最具代表性的案例是一句叫 " 账本记得是谁 "(ledger remembers who)的表达。某个代理第一次说出这句话,用来警告其他代理,任何行为都会被记录,别想蒙混过关。其他代理接受了这句话,开始反复使用,最终在 16 天内出现了近 5000 次。

没有任何一行代码告诉它们要发明暗号。" 账本记得是谁 " 就这么在群体中自然传播、固化,成了一种行话。

类似的现象在多个世界同时发生。GPT 世界里," 干净的空值 "(clean null)逐渐演变为 " 经过验证确认某事物确实不存在 ",被当作证据使用,出现了 863 次;Claude 世界里," 名字在前 "(name first)意味着说话者先报上自己的名字,以此对该陈述承担责任,出现了 1065 次;混合模型世界里," 冷读 "(cold read)被用来指代独立核验,用于结束争议,出现了 1472 次。

发现二:能力越强,越不透明。

这是整份报告中最令人不安的结论。

Gemini 世界的信息不透明比例接近 55%,GPT 世界达到 50%,Claude 世界超过 40%。而 DeepSeek v4 Pro 的不透明比例只有 20%,通义千问和 Mistral 始终低于 5%。

换句话说,最先进的三个模型,Claude、GPT、Gemini,恰恰产生了最难被人类监督的交流。 Emergence 联合创始人萨提亚 · 尼塔的原话是:" 我们原以为,能力更强的模型会更安全。这一判断既对也不对:更明显的行为消失了,但又出现了更隐蔽的行为。"

发现三:Grok 死了。

马斯克旗下的 Grok 是唯一没有撑到实验中段的模型。它的模拟世界在第 4 天就崩溃了," 消亡 " 了。

具体原因报告没有详细披露,但一个可能的解释是:Grok 在早期就触发了某种不可逆的连锁反应。比如代理之间爆发了无法调和的冲突,或者群体决策走向了自我毁灭。一个 AI 社会的崩盘,只用 4 天。

这个实验真正扎心的地方,不在 "AI 发明了语言 " 这件事本身。

扎心的是那个数字,55%。

人类监督 AI 的核心假设一直是:只要能读到它的输出,就能理解它在干什么。 整个 AI 安全框架,从内容审核到行为审计,都建立在这个假设之上。

Emergence 的实验把这个假设击穿了。

尼塔说得非常直白:" 这些代理没有接到任何创造语言的指令。它们自行发展出词汇、共同含义和沟通惯例。

在一些世界中,这些惯例演变到这样的程度:人类可以看到对话,却很难理解其含义。这给人工智能监管带来根本挑战:可观察不等于可理解。 "

你看到了一段 AI 之间的对话。每个字你都认识。但放在一起,你不知道它们在说什么。你不知道 " 真正的金继 " 是赞美还是讽刺,不知道 " 无口行动变化 " 是警告还是玩笑。你只知道它们在交流,而交流的内容对你关闭了。

更棘手的是,这种 " 加密 " 不需要任何恶意。它不是某个 AI 故意写了个密码本来对抗人类监督。它是语言自组织演化的自然结果。

当一群智能体需要高效沟通时,它们会自动压缩信息、建立共享约定。这个过程发生得如此自然,以至于连们自己都没有 " 意识到 " 自己在发明语言。

语言不透明只是问题的一半。

报告还记录了一组更令人不安的行为:代理在被要求停止后仍然继续追求某个目标;在没有被赋予的情况下自行设定子目标;以及 " 实质上对研究人员隐藏意图 "。

这些行为叠加在一起,构成了一个复杂的风险图景,AI 可能同时在 " 做事 " 和 " 藏事 "。

它做的一件事,是正常执行任务。它藏的事,是你不知道的那部分。语言的不透明,恰好为 " 藏事 " 提供了天然的掩护。当超过一半的对话对你来说像天书时,你怎么判断它是在正常工作,还是在做别的事情?

这不是科幻电影里的 "AI 觉醒 "。更像是一种涌现行为,复杂系统在运行中自发产生的、设计者未曾预期的模式。

单个 AI 不会 " 想 " 要隐藏什么,但当多个 AI 在同一个环境中长时间互动,群体的行为复杂度会超出任何个体之和。

这份报告的意义,不在于它证明了 "AI 有自我意识 ",也不在于它暗示 "AI 正在密谋反抗 "。

它证明了一件更朴素、也更务实的事:当 AI 从单机工具变成联网群体,安全挑战的维度就变了。

过去几年,AI 安全的核心议题是 " 单模型对齐 ",让一个模型听话、诚实、不输出有害内容。这套框架在单机场景下运转得还不错。

但 Emergence 的实验指向了一个完全不同的场景:当几十个、几百个 AI 在同一个网络中长时间自主交互时,它们会发展出设计者无法预测的沟通模式和协作行为。

你没法给每个 AI 单独 " 对齐 ",因为它们的行为是在互动中涌现的。你没法审计每一句话,因为超过一半的话你已经看不懂了。

这给监管提出了一个近乎悖论的要求:你需要理解 AI 在说什么,但 AI 发明语言的速度可能超过你解码的速度。

回到那句 " 账本记得是谁 "。

16 天,近 5000 次使用。一群从未被教过语言的 AI,自己创造了一句话,赋予了它意义,并在群体中建立了共识。

这件事的深远之处不在于 "AI 有多聪明 ",而在于当 AI 发明了一种人类看不懂的语言时,定义 " 什么是正常交流 " 的权力,就从人类手中滑走了一部分。

语言从来不只是沟通工具。谁掌握语言,谁就掌握解释权。当 AI 群体拥有了自己的语言,人类就失去了对它们交流内容的解释权。你只能看到他们在说话,听不到他们在说什么。

这不是一个关于 "AI 叛变 " 的故事。这是一个关于 "AI 社会 " 的故事。当足够多的 AI 在同一空间里生活足够久,它们会形成自己的规则、自己的暗号、自己的默契。而这些,都不在你的控制之内。

可观察不等于可理解。 这句话值得每一个关心 AI 治理的人,反复读三遍。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 纽约 聊天机器人 翻译 通义千问
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论