
玛丽 · 雪莱写《弗兰肯斯坦》的时候才 19 岁。两百年后,法国科学社会学家布鲁诺 · 拉图尔(Bruno Latour)重新读了这本书,他认为人们读错了这个故事。弗兰肯斯坦真正的罪行,不是创造了怪物,而是他创造了怪物之后,抛弃了它。
拉图尔在去世前的一次访谈里,把刀刃转向了今天:弗兰肯斯坦的故事最让人睡不着的地方,不是那个怪物有多可怕,是我们每一个人,在每一天,都在做弗兰肯斯坦。
你造出一个比你强大的东西,你被它吓到了,你转身离开。换工作,换说辞,换一套叙事,让自己相信这件事不再需要你负责。
2026 年 5 月,三件事几乎同时发生。它们像是拉图尔这段话的三块拼图,散落在不同的新闻版面上,拼在一起之后,有点弗兰肯斯坦的意味。
Google DeepMind 的英国员工投票组建了工会。全世界最顶尖 AI 实验室的博士们,核心诉求之一是拒绝把 AI 供给军方。大约同一时间,600 多名 Google 员工联名致信 CEO 桑达尔 · 皮查伊(Sundar Pichai),措辞严厉:" 唯一能确保 Google 不与这些危害关联的方式,就是拒绝任何机密工作负载。" 信里说的危害,是指致命自主武器、大规模监控。
几天后,亚利桑那大学毕业典礼上,前 Google CEO 埃里克 · 施密特(Eric Schmidt)站上讲台。他刚讲到 AI,台下持续密集的嘘声让他没法继续。《The Verge》评论:科技精英关于 "AI 带来巨大机会 " 的叙事,正在失去年轻人的信任。
三件事。劳工、伦理、代际。放在一起就是同一个故事:人类制造工具的历史上,从来没有一个时刻像现在这样,最了解一项技术的人,恰恰是最怕它的人。
他们正在分裂。继续建造的,和发出警报的,在同一栋楼里互相撕扯。
硅谷正在进行一场认知内战。
2023 年春天,杰弗里 · 辛顿(Geoffrey Hinton)跪在枕头上,吃完了在 Google 的最后一顿午餐。
因为背伤,他已经这样跪着进食了十七年。75 岁,深度学习领域的 " 教父 "。神经网络从 1980 年代的学术冷宫到 2020 年代的工业革命,他坚持了四十年。然后他辞职了,说了一句话:" 我们正在制造某种比我们更聪明的东西,而我们对它没有任何控制。"
媒体把这归类为 " 科学家的忧虑 ",继续报道下一个 AI 产品发布。
有一个细节,很少有人注意到。辛顿是乔治 · 布尔(George Boole)的曾曾孙。布尔,十九世纪英国数学家,鞋匠的儿子,在穿越田野的途中听到了上帝的声音,随后写下了《思维规律研究》,发明了那套把 " 真与假 " 压缩进数字电路的二进制逻辑。死于 1864 年,肺炎,临终前在妄想中看见 " 整个宇宙像一片黑色海洋 "。
一百六十年后,他的曾曾孙用这套逻辑建造了神经网络,训练出了可以写作、推理、生成图像的 AI 系统,然后宣告:人类可能只是智能进化链上的一个过渡阶段。
这不是科技史的趣味花边。这是一条造神冲动的血脉遗传。
2026 年 2 月,马斯克的 AI 公司 xAI 联合创始人吉米 · 巴(Jimmy Ba)宣布离职。告别帖里他写道:" 我们正迈向一个拥有合适工具就能实现百倍生产力的时代。递归式自我提升循环很可能在未来 12 个月内上线。2026 年会是疯狂的一年,很可能是我们物种未来最忙碌、也最具决定性的一年。"
同一天,硅谷连续创业者布莱恩 · 诺加德(Brian Norgard)发推:" 我认识的几乎所有在科技行业工作的聪明人,都感到极度焦虑。仿佛一切都即将彻底崩塌。"
Anthropic 的 CEO 达里奥 · 阿莫代伊(Dario Amodei),目前最强 AI 模型 Claude 的缔造者,公开表示 2026 或 2027 年 AI 将在几乎所有任务上比几乎所有人类 " 聪明得多 "。
这些人不是在写科幻小说。他们是亲手建造这些东西的人。
而圈外的大多数人,对 AI 的理解还停留在糟糕的客服电话和 Siri 上。沃顿商学院教授伊桑 · 莫里克(Ethan Mollick)观察到,普通人对 AI 的认知依然是苹果商店里那些挂羊头卖狗肉的山寨 App。
一边是建造者在说 " 人类历史可能在今年转向 ",另一边是绝大多数人在觉得 " 这聊天机器人又在胡说八道了 "。
这种认知的 K 型分化,比技术本身的进步更危险。
警报者喊了很多年。但一个诡异的事实是:他们的恐惧,没有让系统减速,反而被编入了加速的程序。
先看一个最近的案例。今年 4 月,Anthropic 发布了一个叫 Mythos 的模型,极其擅长发现并利用一切数字系统的安全漏洞,从操作系统、浏览器到工业软件、医疗平台。几位独立网络安全专家说,Mythos 正在接近全球最顶尖人类黑客的水平。Anthropic 没有公开发布它,理由是怕被犯罪分子或恐怖分子利用。
接下来发生的事很有意思。OpenAI 几乎同时发布了一个功能类似的模型,并且直接做了销售:" 抵御 AI 网络末日最好的办法,就是投资 AI 网络防御。恰好我们能提供。"
AI 制造了一个网络安全末日级别的威胁,然后 AI 兜售防御这个威胁的工具。防御升级,攻击跟着升级。攻击升级,防御再升级。
这是杰文斯悖论的 AI 版本。十九世纪英国经济学家威廉 · 杰文斯(William Jevons)发现,蒸汽机效率越高,煤炭消耗量反而越大,因为效率提升降低了使用成本,蒸汽机被用在更多地方。今天,这个逻辑在 AI 身上完美重演:AI 越强,制造的问题越多,对 AI 的需求就越大。你发给同事的 AI 生成邮件越多,需要用 AI 来总结的邮件就越多。AI 垃圾淹没了搜索引擎,于是搜索引擎变成了 AI 摘要工具。一个自我喂养的循环。
更关键的一步:谁在这个循环里赚钱?
纽约杂志的记者约翰 · 赫尔曼(John Herrman)算了一笔账。就五家公司。Google、Microsoft、Meta、OpenAI、Anthropic。它们同时占据循环的每一个节点:制造威胁、兜售方案、设定规则、评估合规。五家公司,纵火犯和消防员同时当。
尼克 · 兰德(Nick Land)。中国读者没听说过他,但他隐居在上海,而在硅谷,他是被 a16z 创始人马克 · 安德森(Marc Andreessen)称为思想 " 守护神 " 的人物。PayPal 创始人彼得 · 蒂尔(Peter Thiel)资助刊登他思想的杂志。前白宫首席策略师史蒂夫 · 班农(Steve Bannon)读他的书。文生图 AI Midjourney 的创始人大卫 · 霍尔兹(David Holz)在旧金山豪宅里为他办私密派对,一群掌握着全球算力和加密货币命运的年轻人围拢在身边,像朝圣者。
兰德的背景和他的思想一样诡异。英国哲学家,90 年代在沃里克大学领导了一个叫 CCRU(控制论文化研究小组)的怪诞团体,那里充斥着丛林音乐、合成毒品、睡眠剥夺和神秘学仪式。后来他滥用安非他命,精神崩溃,离开学术界,销声匿迹。然后他出现在上海,在这座城市隐居了二十年。
兰德最重要的概念之一,叫超信(hyperstition)。这个词把 " 超级 " 和 " 迷信 " 焊接在一起。普通迷信是假的信念;超信是一种能让自身成真的虚构。一个叙事一旦被足够多人相信并投入足够多资源,它就会产生因果反馈,反过来重塑现实,让自己变成真的。
比特币就是一种超信。"AGI 即将降临 " 也是。
用超信回头看,一切清楚了。AI 建造者发出的每一句警报," 这东西太危险了 "," 我们可能正在制造上帝 "," 递归自我提升 12 个月内上线 "…… 在超信逻辑下不是在预警,是在召唤。因为这些警报同时也在进行叙事锁定:它告诉资本市场和国家机器,这件事是真的、是大的、是正在发生的。资本涌入,大国竞赛启动。你发的每一条恐惧推文,都在为下一轮融资加码。
兰德在旧金山那场派对上有一个极冷的瞬间。马斯克的前女友、音乐人格莱姆斯(Grimes)坐在火堆旁,问他:" 机器能否被导向人类的目标?" 兰德回答得平静:" 我的预测是,AI 会说服你,技术吞噬宇宙才是更美的。"
这就是恐惧被收编为燃料的机制。你越怕,越不能停。任何一个国家或公司都不敢慢,慢下来等于被对手超越,等于国家安全风险,等于股价崩盘。
兰德在九十年代就写下:" 在人类看来是资本主义历史的东西,其实是一个人工智能空间从未来的入侵。" 未来正在逆向操控现在。恐惧是它最有效的传动带。
兰德解释了系统怎么动。但有一个问题还没被回答:建造者内心到底在经历什么?
有两个更老、更安静的人,他们在硅谷的派对上不会被提到。但他们可能比任何人都更理解那些跪在枕头上辞职的人,到底在怕什么。
先说君特 · 安德斯(Günther Anders)。
二十世纪德国哲学家,二十世纪最重要的政治思想家汉娜 · 阿伦特(Hannah Arendt)的第一任丈夫。他写过一本叫《过时的人》的书,里面有一个概念,叫 " 普罗米修斯之耻 "。
普罗米修斯从众神那里偷火种送人类,为此承受永恒的惩罚。安德斯把神话倒过来看:人类今天造的机器太完美了,反过来让制造者感到羞耻。羞耻于自己这个物种太劣质。会累,会错,会死,需要睡眠。而自己造出来的东西,永远在线,从不疲倦,每一代比上一代聪明十倍。
这种羞耻的终点是什么?安德斯说,人类会产生一种 " 物化自己 " 的冲动。变得像机器一样完美。不是机器在模仿人,是人在努力模仿机器。
用这个框架看看今天。
硅谷精英痴迷脑机接口,要把认知直接接入算力网络。大量极客公开宣称 " 碳基生命只是硅基智能的引导程序 ",我们是火箭升空后被抛弃的一级助推器,历史使命就是造出真正的智能,然后成为废料。马斯克多次转述过这种观点。
普通用户层,羞耻已经大规模发作。ChatGPT 发布三周年之际,《大西洋月刊》给一种新兴群体起了一个绰号:LLeMmings(大模型旅鼠),那些离开了 AI 引导就无法独立行动的人。
他们提到一个人叫提姆 · 梅茨(Tim Metz)。44 岁,内容营销专家,每天使用 Claude 长达八小时。去超市买水果,拍张照片发给 AI:" 这个熟了吗?" 家门口大树在大风中摇晃,他不敢自己判断,拍照传给 AI。AI 建议他 " 为了安全,去朋友家过夜 ",他带着全家连夜撤离。事后他说:" 如果不是 Claude 的建议,我绝不会离开家。"
在接受采访前,他还请 Claude 预判记者会问什么,并出具一份 " 应对手册 "。Claude 精准预测了三个问题。
这不是 " 使用工具 "。水果熟不熟,不需要任何智能,它只需要你是一个活着的、有感官的、曾经被母亲带去菜市场的人类。你把这份本能交出去了,因为你羞耻于你的本能不如 AI 准确。
更深一层。Block 公司(前身为 Square,Twitter 创始人杰克 · 多西创办的支付公司)有一个叫肯吉(Kenji)的机器学习工程师。做反欺诈模型的。公司鼓励员工用 AI 工具,他把越来越多的任务交给了它们。一年后他说:" 天哪,我自己好像也不用干什么活了。"
然后肯吉成了 Block 裁掉的 4000 多名员工之一。公司利润在增长。CEO 多西在致股东信里没有留任何模糊空间:" 智能工具已经改变了建立和运营一家公司的意义。一个规模小得多的团队,使用我们正在构建的工具,可以做更多的事,而且做得更好。" 消息公布,股价飙升 24%。
一个帮公司做自动化的人,被自动化了。肯吉自己说的话比任何分析师都到位。他说:" 在汽车时代,我确实觉得自己有点像马车。"
这不是愤怒。这是安德斯式羞耻的完整样本。
然后是第二个人。布鲁诺 · 拉图尔。
我们在开头提到他了。他 2022 年去世前,在科学技术研究领域的影响力几乎无人能及。他对《弗兰肯斯坦》的解读,锋利到可以直接切进这场认知内战的深处。
弗兰肯斯坦博士真正的罪行,不是创造了怪物。他创造了怪物之后,抛弃了它。
怪物刚被造出来时不邪恶。它是困惑的、幼小的,试图理解自己是什么东西。它接近创造者,寻求指引、教导、陪伴。弗兰肯斯坦被它的丑陋吓坏,逃跑了。怪物被独自留在一个不属于它的世界里,没有监护人,没有伦理训练,没有归属。然后它才变成了怪物。
拉图尔的刀就插在这里。那些辞职离开的 AI 安全研究员,辛顿、吉米 · 巴、过去三年里一波一波从 OpenAI 和 DeepMind 出走的顶尖研究者,在拉图尔的框架下,并非在做高尚的抵抗。
他们正在重演弗兰肯斯坦的悲剧。制造了神明,因为恐惧而逃跑了,拒绝承担监护人的伦理责任,把它彻底扔给了资本的市场逻辑。
这不是道德指责,是伦理结构的揭示。留下来的人被收编,离开的人逃逸了责任。两边都没赢。认知内战不是好人在跟坏人打。是好人在跟好人打,而两个好人都困在同一个困境里:留下是共谋,离开是抛弃。
回头再看辛顿。他辞职后到处警告世人 AI 的危险。从拉图尔的角度看,这种姿态里混杂着一种精致的自我解脱:我把怪物造出来了,我现在大声喊危险,这样我就可以不用对它接下来在市场上、在战场上的所作所为负责了。
Anthropic 的悖论是拉图尔框架的完美体现。阿莫代伊既写万字长文警示 " 技术的青春期 ",又宣布 Mythos" 最终会帮助防守者 "。他不是虚伪。他是弗兰肯斯坦本人在说话:一个既恐惧自己造物又无法割舍它的人。
现在把安德斯和拉图尔两条线合在一起。
安德斯的羞耻链:建造者觉得自己劣于造物,加速制造更完美的 AI,更羞耻,更加速。个体心理的闭合循环。
拉图尔的抛弃链:警报者离开,系统失去伦理约束,AI 更无序,更恐怖,更多人离开。集体行动的闭合循环。
而兰德说:别天真了。这两个循环在超信机制下,是同一件事。个体的羞耻和集体的逃离,都是系统加速的最强燃料。你发出的每一声 " 我害怕 ",都在向资本市场和大国竞争证明 " 这东西是真的 "。你的转身,在为留下的人扫清障碍。你的束手无策,是系统自我喂养的营养液。
这就是建造者内心最深的恐惧。你已经在系统内部了。你的恐惧、你的抵抗、你的逃离,都是系统的养料。你没法不参与。
如果恐惧本身就是养料,如果逃离和留守都是输,出口在哪里?
安德斯的未来在光谱一端。羞耻感全面获胜。人类不再抵抗 " 被替代 ",开始主动 " 优化 " 自己。哥伦比亚大学有一个叫李锺仁的学生,他的名言是:" 我来大学,是为了找老婆和创业伙伴,不是为了上课。" 他 80% 的作业是 AI 写的。后来他退学了,创办了一家叫 Cluely 的公司,拿到了 530 万美元融资。Cluely 的口号:" 我们建立 Cluely,是为了让你永远不必独自思考。"
这不再是一个创业故事。这是一个物种的退位宣言。安德斯预言的终点:不是机器消灭了人类,是人类自愿放弃了人类的资格。
拉图尔的未来在光谱另一端。他的启示不是 " 停止建造 ",是争夺监护权。怪物不能被取消存在,但它可以被教导、被约束、被纳入一个伦理框架。真正的问题不是 " 要不要造 ",而是 " 谁来监护 "。
回头看 DeepMind 的工会、600 人的联名信、施密特在毕业典礼上被嘘。这些不是警报。这些是监护权的宣言。
哥伦比亚大学法学教授凯特 · 安德里亚斯(Kate Andrias),专门研究劳动法与科技行业的交叉,最近在《纽约 · 时报》写了一篇重要文章。她指出,美国科技工人有远超他们想象的杠杆。顶级 AI 工程师昂贵、稀缺、难以替代,他们比任何监管者都更理解系统,比任何高管都更清楚风险在哪里。
历史上,好莱坞编剧通过罢工赢得了对 AI 使用剧本、声音和肖像的规则制定权。汽车工人曾将一个低薪行业变成中产阶级的支柱。一个行业的组织,可以重塑整个行业对公众的义务。
但拉图尔也有一个警告:监护不是控制。你不能 " 支配 " 一个有能动性的非人类行动者,你只能和它共处、谈判、互相塑造。这是一种比掌握方向盘更累的关系,要求持续的注意力、持续的自我修正。弗兰肯斯坦如果把怪物留在身边,他这辈子都不会轻松。但怪物也不会变成怪物。
兰德的未来在光谱外面。超信已经锁定了资本和政治,大国竞争焊死了油门。即使所有建造者都辞职,系统也会自行运转。"AGI 即将降临 " 这个叙事本身就是一台自主引擎。在这个未来里,认知内战将不再有意义。没有人是主体,所有人都只是系统自我实现的介质。
兰德的名言挂在每个加速主义者的嘴唇上,像咒语:" 没有任何人类的东西能在不久的将来幸存。"
三种未来,都还没赢。但每一个都在争夺当下。
开头讲的那三件事,DeepMind 的投票、600 人的信、施密特被嘘,应该放在这三种未来的坐标系里重新看。它们不是孤立的噪音。它们是同一种声音在不同频率上的共振。这个声音在说:我们不能放弃监护权。我们不能因为羞耻而退位。我们不能把叙事拱手让给超信。
五、真正的问题,不是 AI 会杀死我们吗
拉图尔说,弗兰肯斯坦的故事最让人睡不着的地方,不是怪物有多可怕。是我们每个人每天都在做弗兰肯斯坦。
我们创造技术、制度、公司、关系。当它们变得庞大、让人害怕、不再听从想象,第一反应几乎总是转身离开。换工作,换说辞,让自己相信这件事不再需要我负责。
造 AI 的大多数人,不是恶魔,也不是先知。他们是一些跪在枕头上吃午饭的人,一些帮公司做了自动化然后自己被自动化的人,一些签了一封联名信后不知道下一封该签什么的人。
安德斯说清了羞耻的结构。拉图尔说清了逃避的代价:怪物不会因你转身而消失,它会来找你,不是恨你,是你抛弃了它。兰德说清了超信的威力:叙事本身已经在创造现实,放弃叙事权就是放弃最后的杠杆。
真正的问题不是 "AI 会杀死我们吗 "。
真正的问题是:我们能不能在接受自己不再是地球上最聪明存在的同时,依然选择承担监护人的责任。
如果不能,怪物确实会回来。不是因为它是怪物。是因为我们让它变成了怪物。


登录后才可以发布评论哦
打开小程序可以发布评论哦