面对不可阻挡的 AI 狂潮，埃隆 · 马斯克给出了激进的时间表和务实的监管方案：预计 AI 将在五年内超越人类智力，业内顶尖公司应立即建立模型 " 相互审查 " 机制来兜底安全风险。
近日，特斯拉 CEO 埃隆 · 马斯克接受了《经济学人》总编 Zanny Minton Beddoes 的专访。在本次访谈中，马斯克不仅对人工智能（AI）超越人类的时间节点及潜在风险做出了最新研判，还首次详细阐述了针对当前顶尖 AI 大模型研发公司的监管构想，并毫不避讳地谈及了硅谷 AI 巨头核心人物之间的恩怨局。
AI 5 年内超越人类智力，终结人类概率在 10% 到 20%，自己不得不 " 登船 "
市场目前高度关注 AGI 的落地时间表。对此，马斯克给出了一个极其明确且激进的预测：" 大约在 5 年后，人工智能的智力水平可能会超过人类。"
伴随智力爆发而来的是控制权的丧失。在被问及人类 10 年后是否还能掌控局面时，马斯克直言这 " 不太可能 "。他用了一个残酷但生动的生物学比喻来解释这一逻辑：" 如果人工智能与人类的智力差异远远大于人工智能与黑猩猩的智力差异，那么很难想象黑猩猩会占据主导地位。我们实际上不过是黑猩猩的进化版本罢了，不久前，我们还在丛林中吃着香蕉呢。"
此前，马斯克曾多次警告 AI 可能带来人类的终结。在本次访谈中，当被问及杀人机器人导致人类终结的概率是否仍在 10% 到 20% 之间时，马斯克并未否认这一风险，但他选择了一种带有宿命感的乐观态度。
他用火箭发射进行了极具画面感的类比。当主持人询问 " 如果你的火箭有 10% 到 20% 的概率会爆炸并杀死你，你还会坐上它吗 " 时，马斯克给出了肯定的回答：" 会的。我们唯一能做的就是尽量减少出现糟糕结果的概率。"
他进一步解释了自己不得不 " 登船 " 的现实逻辑：" 人工智能和机器人的发展似乎是不可阻挡的，就算我想停止它，我也做不到。" 他认为，既然无法阻止，最好的选择是身在局中以期影响走向，" 最有可能的结果就是为所有人带来巨大的好处 "。排除全球热核战争等极端因素，马斯克预测到了 2036 年左右，人类最有可能迎来一个 " 物质极为丰富的时代，每个人都能拥有他们想要的一切 "。
呼吁建立 AI" 互查机制 "：利用商业竞争保持诚实
随着 OpenAI、Google、Anthropic 等 AI 巨头在底层大模型上的军备竞赛日益白热化，如何进行有效监管成为市场关注的焦点。马斯克在此次访谈中提出了一个非常接地气的方案：让竞争对手互相审查模型。
马斯克透露，他曾与 DeepMind 创始人 Demis Hassabis 进行过长谈，他认为最紧迫的做法是 " 让那些领先的 AI 公司至少定期举行会议或交流，讨论任何与安全相关的问题，比如每周或每两周一次。"
马斯克指出，政府官员缺乏深厚的技术背景，很难判断一个前沿模型是否该发布。因此，应该利用巨头之间的商业博弈来保障安全：" 对于竞争对手来说，只要给他们一两周的时间来审查一个新模型，就能发现其中的问题，从而激励所有竞争对手保持诚实。"
这一机制的核心逻辑在于，" 竞争激烈的公司们能够意识到某些东西可能属于安全风险，因此他们不会犹豫地指出，应该推迟发布竞争对手的模型。" 如果公司拒绝处理风险，政府才需要介入。马斯克强调这一机制必须立刻建立，业内所说的 " 六个月内建立 " 实在太长，因为现在 AI 的突破是一天内就有好几个。
痛批 OpenAI 背离初衷，但愿为世界利益放下个人分歧
在谈及 AI 行业的合作壁垒时，马斯克毫不掩饰对 OpenAI 现任 CEO 山姆 · 奥特曼（Sam Altman）的不满。这段直白的表述也向市场揭示了顶级 AI 实验室之间缺乏信任的根源。
" 我不喜欢山姆 · 奥特曼，是因为 OpenAI 原本是一家旨在实现开源的人工智能公司，原本应该是属于全世界的公司。然而，不知怎么的，它变成了一家价值 8000 亿美元、采用闭源技术的盈利公司。" 马斯克直言，这完全违背了他当初捐款的初衷。
同时，马斯克还爆料了 Anthropic（目前估值最高的 AI 初创公司之一，由前 OpenAI 核心成员创立）的内幕：" 达里奥（Anthropic CEO）也不喜欢山姆 · 奥特曼，实际上，Anthropic 团队离开 OpenAI 的原因就是他们不信任山姆 · 奥特曼，否则他们现在应该还在 OpenAI 工作。"
尽管巨头之间存在强烈的个人恩怨，但马斯克在访谈最后表现出了妥协的姿态。他评价 Anthropic 团队是 " 有原则、关心世界未来 " 的人。为了推进 AI 安全互查机制的建立，马斯克呼吁：" 为了世界的利益，让我们把个人之间的分歧放在一边吧。"
文字记录
马斯克
我认为，大约在 5 年后，人工智能的智力水平可能会超过人类。5 年时间，大概就是这样的预测时间。所以，除了作为人类本身之外，人工智能确实可以做得比人类更好。
主持人
那么，未来生活会是什么样呢？
最有可能的情况是，迎来一个物质极为丰富的时代，每个人都能拥有他们想要的一切。这听起来可能有些荒谬，但是，我们现在就生活在 2026 年。让我们看看到了 2036 年时，我们的处境会如何吧。
当然，也有一些因素可能会阻碍这一目标的实现，比如一场大规模的全球热核战争之类的事件。不过，假设第三次世界大战不会发生的话，我认为我们将进入一个物质丰富的时代。所以，这或许可以算是一种对未来的乐观和兴奋的信号吧。
你确信在 10 年后，人类将不再能够掌控局面吗？
我觉得那不太可能。如果人工智能与人类的智力差异远远大于人工智能与黑猩猩的智力差异，那么很难想象黑猩猩会占据主导地位。我们实际上不过是黑猩猩的进化版本罢了，不久前，我们还在丛林中吃着香蕉呢，现在我们也仍然吃香蕉。
你认为，拥有杀人机器人的情况还有 10% 到 20% 的可能性会导致人类的终结吗？现在你对此似乎很放松。你改变你的看法了吗？
我还是认为人工智能和机器人存在风险，这种风险并非为零。不过，我得采取一种乐观的态度。关于人工智能和机器人的发展，有时候我甚至想，即便有停止按钮，我们也未必应该按下它——因为最有可能的结果就是为所有人带来巨大的好处。我意识到，现在似乎大家都认定这种发展是不可避免的。让我们期待最好的结果，继续前行吧。人工智能和机器人的发展似乎是不可阻挡的，就算我想停止它，我也做不到。
你觉得杀人机器人导致人类终结的概率是否还有 10% 到 20%？
这真是很糟糕的情况。从长远来看，我们所有人最终都会走向死亡。根据物理的标准模型，宇宙的终结将会是一个漫长而无聊的过程——就像一杯逐渐冷却的稀薄灰色液体一样，也就是所谓的 " 宇宙热寂 "。所以，如果宇宙热寂确实是我们这个现实世界的最终结局，那么这一切都只是旅程的一部分而已。
如果你认为你的火箭有 10% 到 20% 的概率会爆炸并杀死你，你还会坐上它吗 ?
会的。我们唯一能做的就是尽量减少出现糟糕结果的概率。我一直不愿参与人工智能或相关领域的工作。当初，OpenAI 作为对谷歌的一种制衡力量而存在，因为当时谷歌几乎垄断了人工智能领域的发展。而现在，Anthropic 已经成为人工智能领域的领导者。这些举措实际上加速了人工智能的发展，而那并非我的初衷。看起来一切似乎都指向了人工智能的进一步发展。于是我就想，好吧，你可以对此感到难过，或者加入这个行列——而你显然已经加入了。
如果无法击败他们，那就加入他们吧。据了解，其他一些模型研发领域的领导者也在努力寻找方法来降低风险。就在上周，Demis Hassabis 提出了一个关于建立公私合作监管机构的建议。你觉得你们应该更加积极地参与这件事吗？为了控制这些风险，我们是否可以采取一些措施呢？
是的，我对 Demis 的建议是：在我们发表他的文章之前，我和他进行了几小时的交谈。我们认为，最紧迫的做法就是让那些领先的 AI 公司至少定期举行会议或交流，讨论任何与安全相关的问题，每隔几周进行一次。你为什么还没有这么做呢？我的意思是，你们之间并不都彼此喜欢，你们毕竟都在竞争，都想成为第一名。
不过，我觉得，这种竞争可以促使人们保持诚实。对于那些没有深厚技术背景、不引领人工智能前沿发展的政府官员来说，要判断某个模型是否应该被发布，确实很困难。但是，对于竞争对手来说，只要给他们一两周的时间来审查一个新模型，就能发现其中的问题，从而激励所有竞争对手保持诚实。这样，模型创作者就可以互相检查彼此的工作。如果有什么让他们担心的事情，他们就可以告诉政府，政府就能判断出是否有什么问题需要解决——如果那家公司并没有采取任何措施来应对这一风险，那么就是政府应该介入并采取行动的时候了。
应该立即采取行动。人们一直告诉我，必须在未来六个月内建立起这样的系统，因为模型的改进速度越来越快了。六个月的时间确实很长，应该缩短这个时间。现在有太多关于人工智能的突破性进展了，有时候一天内就有好几个，上周就有很多。
所以，你们需要现在就聚一聚，把这件事安排好。听起来你是在告诉我这一点。
是的，我建议至少定期举行一些非正式的会议，比如每周或每两周一次。这样就能确保有那么一两周的时间可以提前访问相关内容。
这就是为什么我认为这种激励机制有效——竞争激烈的公司们能够意识到某些东西可能属于安全风险，因此他们不会犹豫地指出，应该推迟发布竞争对手的模型。
你们彼此不太喜欢对方，也缺乏信任，在社交媒体上经常互相攻击。所以，你认为自己能这样对待那些自己不喜欢的人吗？这些领导者之间确实存在个人恩怨。
我不喜欢山姆 · 奥特曼，是因为 OpenAI 原本是一家旨在实现开源的人工智能公司，原本应该是属于全世界的公司。然而，不知怎么的，它变成了一家价值 8000 亿美元、采用闭源技术的盈利公司。我觉得，这完全违背了我当初捐钱的目的，这是我非常不满的地方。另外，达里奥也不喜欢萨姆 · 阿尔特曼，实际上，Anthropic 团队离开 OpenAI 的原因就是他们不信任山姆 · 奥特曼，否则他们现在应该还在 OpenAI 工作。
我觉得达里奥是个非常有原则的人，他很关心各种事情，也关心世界的未来。到目前为止，我在 Anthropic 遇到的每个人都是如此，没有人让我觉得他们有恶意——他们看起来都是出于好意。通往地狱的道路往往是由善意铺成的，虽然也有少数人是出于好意，但我们不能掉以轻心。不过，如果真的需要讨论的话，那我们就讨论吧。为了世界的利益，让我们把个人之间的分歧放在一边吧。
