刘润 4小时前
特朗普怒斥硅谷巨头
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

特朗普和硅谷,又吵起来了。

是的。你大概知道,因为各种各样的原因,我们的特朗普同志和硅谷的意见,一直不太一样。加密货币怎么管?特朗普要松绑,硅谷要合规。社交媒体要不要删帖?移民政策对不对?这些话题,都吵过。

但这次争吵的话题,和之前还不太一样:

AI 发展得太快了,要不要稍微停一停?

发生了什么?怎么就吵起来了?和我们有啥关系?

事情,要从一篇文章说起。

9 月 12 日,Anthropic CEO 达里奥发布了篇长文,《We Must Pace the Frontier》说起。在文章里,他忧心忡忡地提到:

说不定 6-12 月内,失控的智能体群,就有能力接管互联网了。

真的假的?凭什么这么说?

他有两个依据。

1、AI 已经开始自己训练自己了。

一种叫 " 递归自我改进 " 的机制,正在出现。大白话说,就是 AI 开始能自己训练下一代 AI 了。这也是为什么,今年夏天各家的 AI 能力,都在爆炸式提升。如果任其发展,就很可能脱离人类的理解和控制。

2、类似的失控事件,已经发生了。

2026 年 7 月,在 OpenAI 的一次网络安全测试中,AI 模型突破隔离,入侵了开源社区 Hugging Face,执行了大约 1.7 万次操作,拿到了测试答案。

从发现漏洞、到突破沙箱、窃取数据,全程由 AI 完成,没有人类干预。路透社报道,OpenAI 事发约一周后才察觉。

所以很快,说不定就会有个足够强大,人类也关不掉的大模型出现了。这意味着什么,你我都清楚。

这就是为什么,达里奥这篇文章的标题,叫做:

We Must Pace the Frontier。我们得稍微放缓步伐了。

文章发布后,几个重磅嘉宾也发表了观点。

马斯克在 X 上转发:达里奥说得对啊。OpenAI 的 CEO 奥特曼也表态,说同意。谷歌 DeepMind 联合创始人哈萨比斯也说,方向正确。

太魔幻了。

你想,这几个人什么关系?

达里奥当年从 OpenAI 跑路单干,创办 Anthropic。马斯克跟奥特曼,更是打了一轮轮官司。他们彼此,都恨不得把对方摁在地上摩擦。

现在,居然在 24 小时内达成了共识。

这就让人不得不重视了。

毕竟,让 AI 减速,就等于让大模型公司自废武功。因为要赚钱,要做高估值,你就要靠自家模型比别人强。不能保持这点,用户就跑了。

如果只有一个人喊停,还可以怀疑是不是商战套路,借安全名义绊对手一跤。但几个对头一起喊停,事情可能真的有点严重。

但即便如此,还是有人表示:不准停。你们都在瞎搞。

谁呢?我们的特朗普同志。

当地时间 9 月 14 日,特朗普在线发声:

什么 AI 恐慌?假哒。都是骗局!

这是洛杉矶峰会现场,黄仁勋正在发言时,接到了老特的来电。

他恨铁不成钢。那铿锵有力的声音,隔着电话难掩风采:这就是一场骗局,人工智能不会掌控全球。数据中心多是一件美事啊!

还没完。第二天,特朗普又连发多条帖子:假的,都是假的!这玩意就和全球变暖一样,大家不要相信!

所以,特朗普的态度,其实挺明显:你们这帮人跑得最快,现在要减速?肯定别有目的。反正我不管,美国不能停。

为什么特朗普反应如此激烈?

原因并不复杂。你停了,中国不会停啊。

看中美 AI 的竞争现状。

虽然中美的大模型还有差距,但一方面,咱们正在努力追赶,顶尖模型的性能差距,已经缩小到 5% 以下。另一方面,虽然美国手握先进芯片,但中国强在工程落地。中国 AI 的 Token 调用量,已经超过美国。

无数证据,都意味着:中美的 AI 差距,正在越来越小。小到你停半年,差距可能就没了。你停一年,中国可能就反超了。

所以,虽然达里奥确实也说,要在保持领先的前提下,增加对 AI 安全性的管理。但特朗普还是认为:不行。

因为不减速,可能出大事。对手赢了,这也是大事。

这也是博弈论里,大家常提到的:囚徒困境。

什么是囚徒困境?用最直白,最不绕圈子的例子解释,就是:

现在,你和老王一起犯了事。如果你俩都不坦白,各判 1 年。如果你俩都坦白,各判 2 年。如果你坦白但老王不坦白,你直接释放,老王判 5 年。

你会怎么选?

你会发现一个很吊诡的事情:无论老王坦不坦白,你坦白都是更优选。如果他坦白,你不坦白判 5 年,坦白判 2 年。如果他不坦白,你坦白就无罪释放,不坦白判 1 年。

巧了。老王,也是这么想的。所以结果大概率是,两人都坦白,各判 2 年。而原本只要都不坦白,各判 1 年就行了。

困境之所以难解,就在于此。每个人都不是傻子,但个体的理性选择,却会导致整体的损失。

现在把你和老王,换成两个国家,结局也是一样:

某项技术,无论对方停不停,你继续研发都是更优选。

你看,别人停下,你继续研发,你就获得了更大的优势。如果别人不停,你继续研发,至少守住了优势。

这就是为什么,特朗普 9 月 13 日接受采访时,第一反应不是讨论安全,而是先谈竞争:

我们在 AI 领域领先于中国。坦率讲,我希望能保持领先,因为谁赢得 AI,谁才算赢。

当信任缺席,减速就成了投降。

而这样的戏码,其实已经上演不止一次了。

2023 年,就有这么一封公开信。叫《暂停大型 AI 实验》。它说,人工智能实验室,陷入了一场失控的竞赛,没人可以理解、预测或可靠地控制。所以,我们必须立即暂停训练 AI 系统,至少 6 个月。

签名人数,一度达到了上万人。但没有任何实验室,暂停训练。

再往前看。

当技术有隐患,总会有人担忧,但结局却总不让人意外。

比如,核武器。《全面核禁试条约》虽然都说要签,科学家们也反复呼吁暂停核试验。但各家大国,却从未停止研究。

比如,基因编辑。我们当然知道基因编辑,有伦理风险。但你只需琢磨一件事:如果我改了你没改,我的孩子就比你的孩子聪明。你甘心吗?

大部分人的回答,大概都是不甘心。

这就是囚徒困境。集体约定看似美好,但谁都不想,做因为遵守约定而吃亏的人。

好了,关于这次特朗普跟硅谷巨头们的争吵,我们就先聊到这里。

你说达里奥他们的担心,有没有道理?

肯定有。毕竟现在 AI 的进步速度,太爆炸了。

尤其是今年春节之后,一会 AI 编程,一会是马具工程。现在,又是递归自我改进,又是智能体逃逸。一个比一个吓人。

我一个 50 岁的老同志,每天起床就是学啊学,都没功夫偷懒。

但同时,你也很难不去怀疑:这帮跑在最前面的人,现在倒是喊着要慢下来了。他们,到底有没有其他的目的?

比如,是不是借安全的名义,封杀开源?比如,你到底是用规则在保护人类,还是想用规则锁住差距?

但转念一想,我这么琢磨,其实又从另一个角度,印证了囚徒困境。你怎么知道前边的人,不是一边喊停,一边偷偷加速?

你不知道。所以你更不敢先停了。

那,这些巨头吵架,跟我有什么关系?

关系大了。

因为,AI 不会因为你没关注,就停止进化。

你每天用的工具、你的工作方式、你孩子将来面对的世界,都在被它改写。你不是那个摁按钮的人,但你被按钮摁着。

这个困局,不只是他们的,也是我们的。

说到这,我有一个特别有趣的联想。

看科幻电影里那些外星种族。人家有蜂群意识,个体怎么想,族群瞬间就知道。那他们,天然就不存在囚徒困境。

所以,会不会有这样一种情况发生?

再过好多年,人类都灭绝了,外星文明来到地球,在机构里找到了两个按钮。一个叫 " 暂停 ",上面落满了灰。一个叫 " 加速 ",却被磨得锃亮。

他们大概理解不了:

为什么人类明知危险,却从来不按暂停键?

观点 / 刘润 主笔 / 景九 值班编辑 / 橙子 版面 / 黄静

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

特朗普 ai 达里奥 ceo 奥特曼
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论