腾讯科技 13小时前
OpenAI员工长文:AI时代的文明岔路
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

文丨 Joanne  

编辑丨徐青阳

美国当地时间 10 月 1 日,OpenAI" 智能时代 " 平台发布新文章《The Eternal Complement》,作者为赫曼斯 · 阿西尔瓦坦(Hemanth Asirvatham)和埃利奥特 · 莫克西(Elliott Mokski)。

这是两人 " 下一个经济 " 系列的第一篇文章,文章讨论的核心问题是:当 AI 的推理、创造和发现能力不断增强,甚至走向超级智能之后,文明真正稀缺的资源会变成什么?

两位作者并没有把超级智能简单理解成更多 " 天才 " 的集合,而是从经济学中的 " 互补 " 概念出发,重新讨论智能与现实执行能力之间的关系。文章认为,一个想法从诞生走向现实,需要大量配套条件,包括实验设备、技术人员、资金、法律、官僚体系、供应链以及各种组织协调能力。随着科学和技术不断向前推进,这些支撑体系本身也越来越庞大。

文章将这些支撑能力概括为 " 制度智能 ",并认为前沿智能与执行能力始终是一组互补投入。在他们看来,天才负责提出新的想法,制度和大量具体工作负责把想法变成现实。AI 正在改变其中一部分关系:它已经能够写代码、检索陌生领域的文献、把草图转化为原型,让个人完成过去需要整个组织才能完成的工作。随着执行成本下降,真正稀缺的东西可能开始转向 " 品味 ",也就是判断什么值得做、什么问题值得追问。

不过,AI 带来的执行能力提升可能只是第一阶段。当 AI 本身开始大量产生新的科学洞见和研究方向,问题可能发生反转:想法产生的速度超过实验室、工厂、能源系统和其他现实基础设施的承载能力。届时,文明面对的瓶颈可能再次从 " 想不出来 " 变成 " 做不完 "。

围绕这一问题,文章提出了 " 深度文明 " 和 " 广度文明 " 两种可能的未来。前者依靠更强的推理、模拟和已有证据,让智能在真正接触现实之前走得更远,用更少的实验获得更多知识;后者则受到自然复杂性和物理世界速度的限制,大量问题最终仍然需要实验、建设和长期等待,文明需要不断扩大实验设施、制造能力、能源系统和组织协调体系。

文章最终将问题落回人类:即使 AI 未来在知识发现和资源协调方面超过人类,人类好奇心、创造性多样性以及对探索的持续需求仍可能具有价值。他们给出三个理由:人类对启蒙和求知仍有持续的责任;人类在前沿智能与制度智能之间可能存在不同于机器的比较优势;不同的人类个体和群体能够带来机器难以替代的创造性多样性。

" 智能时代 " 平台于 2026 年 8 月 20 日上线,由 OpenAI" 战略未来 " 团队成员迪恩 · 鲍尔(Dean Ball)发布介绍文章。平台明确说明,所发布内容代表作者个人观点,不代表 OpenAI 的组织立场。

以下为全文:

01 进步需要一整套支撑系统

人类的认知已经追溯到了宇宙诞生的那一刻。我们的方程大致还原了宇宙最初的完整图景。借助望远镜,我们已经望向遥远的宇宙,看到它早期的历史,知道恒星如何诞生、星系如何形成。但迄今为止,还没有一个人走出过月球之外。

我们试图寻找的答案横跨整个宇宙,而人类的身体却几乎没有离开过地球。我们的思想可以抵达远方,手脚却远远跟不上。这种错位指向两种完全不同的可能性。

一种可能是,我们其实不需要走那么远。最深层的真相,或许在一颗星球上就能探明。只要拥有足够好的推理能力和高效的工具,我们就能认识宇宙,而不必亲自穿越宇宙。在这种情况下,文明的发展依靠的是 " 深度 ",而不是 " 广度 "。这也可以解释为什么我们至今没有发现其他智慧生命:也许银河系中存在许多拥有高超智慧的文明,只是它们从来没有必要不断向外扩张,因此也没有留下明显的痕迹。

另一种可能则更令人不安:我们的思想可能已经超过了执行能力。每向前迈一步,都需要更多时间和资源。我们从来不缺少梦想,缺少的是把这些梦想变成现实的人手。

伽利略用两片透镜和一根管子就拓展了人类的视野。今天,要把这种视野进一步向外延伸,人类建造了詹姆斯 · 韦布空间望远镜。这座价值 100 亿美元的天文台被折叠起来装入火箭,送到距离地球约 160 万公里的太空。它的 18 块巨大镜片需要达到 50 纳米的制造精度,整个项目涉及来自 14 个国家的 300 多个组织。伽利略的工作只需要几十双手,而韦布望远镜背后需要一支庞大的团队,以及支撑这支团队运转的全球经济体系。

人类想看得更远,需要的不只是更聪明的头脑,也需要更庞大的组织。

我们提出的问题已经超过了能够实际研究的问题数量,设计出的实验也超过了能够真正执行的实验数量。我们产生创意的速度越来越快,而把这些创意变成现实的能力却越来越难以跟上。随着各个领域不断向前发展,制造我们想象中的东西也变得越来越复杂。

斯坦福大学的尼克 · 布鲁姆(Nick Bloom)及其合作者曾研究美国经济中的科研生产率。他们发现,如今要维持摩尔定律,所需要的研究人员数量已经是 20 世纪 70 年代初的 18 倍以上。从整个经济体来看,自 20 世纪 30 年代以来,有效科研投入增加了 23 倍,但衡量科研生产率却下降了 41 倍。

技术人员的数量增长速度是科学家的两倍。过去 40 年里,科学研究中专业设备的使用量翻了一倍。一座如今的芯片制造厂,其成本已经是 30 年前的 5 倍,规模也大得多。

这些数据说明,继续推动进步的成本正在上升。经济仍然能够发展,是因为科研体系不断扩大,用更多的研究投入抵消了单个投入的产出下降。

这也提醒我们,理解 " 天才 " 时,不能只看天才本身。一个出色的假设仍然需要证据、仪器以及把它执行出来的条件。一个想法只有进入现实,才能真正成为进步。

作者声明:该图片由 AI 生成

经济学家把这种关系称为 " 互补 ":当一种投入增加时,另一种投入的价值也会随之提高。前沿智能和把想法变成现实的能力,就是这样的一对互补因素。更好的望远镜会让一个好的天文学问题更有价值,而一个更好的问题也会让望远镜更加有用。

有些互补关系是物理层面的。一个理论需要粒子加速器来验证,一项技术设计需要能源和机器才能制造出来。另一些互补关系则没有那么明显。一个想法本身非常脆弱,需要各种制度来支撑。法律、官僚体系、融资机制、供应链以及其他环节,都需要共同运转,才能让一个想法真正落地。

一个伟大的想法必须经过一条很长的链条,而链条上的每个局部环节都需要正确运行。我们可以把这种能力称为 " 制度智能 "(institutional intelligence),也就是那些很少受到关注,却负责执行的智能。天才设计出纪念碑,制度则负责一块块把石头垒起来。两者看起来差别很大,却同样重要。

我们有时会把超级智能想象成 10 亿个爱因斯坦。但即使真的有 10 亿个爱因斯坦,他们中的大多数仍然需要有人去采石、管理账目、维护设备。前沿创新只有在周围的日常世界能够顺畅运行时才可能发生。从拧紧望远镜螺丝的焊工,到为培养护士的小学提供保险的人,所有这些工作都构成了进步的一部分。

人们在讲述伟大发明时,往往只记住最耀眼的部分,却容易忽略支撑这些成果运转的经济体系。

人工智能也会承担这两类工作:提出重要的新洞见,以及完成大量制度和执行层面的工作。真正的问题在于,未来的 AI 大部分时间究竟会花在哪里。

02 新的瓶颈正在出现

AI 已经开始让执行能力变得不那么稀缺。它可以写代码、搜索陌生领域的文献,也可以把一张草图变成能够运行的原型。过去需要整个组织才能推进的想法,现在越来越可能由一个有能力的人独立完成。

大多数有抱负的电影导演,从来没有机会获得 2 亿美元去拍摄自己的作品 . 很多游戏设计师整个职业生涯都在替别人实现创意。我们会努力把最有天赋的人提拔出来,但无论如何,都难以发现所有人才。

从这个角度来看,智能时代最初带来的变化,是让更多人的创造力得到支持,让更多人拥有过去只有大型机构才能提供的执行能力。

这可能带来大量具有个人特色的项目。过去需要依靠机构才能完成的工作,未来可能更多地发生在这些机构之外。这样一来,稀缺的资源就会从执行转向 " 品味 " ——判断什么值得做,什么问题值得追问,以及面对上千条看似合理的方向时,究竟应该选择哪一条。

但这可能还不是故事的终点。随着 AI 越来越有能力自己提出新的重要洞见,我们可能已经在数学等领域看到这种趋势。AI 提供的将不只是劳动,还可能开始提供研究议程。它不再只是执行一个人提出的研究计划,而是可以自己设计成千上万个研究计划。

AI 可能一下子提出大量值得拍摄的电影概念,也可能提出大量值得验证的科学假设。这样一来,问题就会再次发生变化。今天的 AI 让我们终于能够把许多好想法付诸实践。到了未来,也许会出现太多好想法,以至于我们再次陷入执行能力不足的困境。

03 两种文明的岔路口

我们并不知道,把新的洞见变成成果所需要的互补能力,未来究竟会增加、减少,还是保持不变。一个人仅靠思考可以在多大程度上推动知识进步?一个天才究竟需要多少官僚体系来配合?

在我们看来,答案取决于思想在必须再次接触现实之前,能够走多远。

这里可以设想两条不同的路径。

第一条是 " 深度文明 "(civilization of depth)。在这种文明中,超级智能可能逐渐摆脱对更多物质资本和复杂制度协调的需求。

第二条是 " 宽度文明 "(civilization of width)。在这种文明中,自然界的复杂程度最终超过任何智能,无论是人类还是机器,都无法只靠思考继续取得进展,必须依靠规模越来越大的现实世界实验。

作者声明:该图片由 AI 生成

到目前为止,人类历史似乎显示出对互补能力不断增长的需求。伽利略的望远镜可以握在手中,而韦布望远镜需要整个文明来建造。贝尔实验室(Bell Labs)一个规模不大的团队,就曾在工作台上组装出第一只晶体管 . 如今,芯片技术的前沿突破背后却是一条复杂的全球供应链。人类每向前走一步,都越来越需要更多社会资源参与其中。

但过去并不一定决定未来。更聪明的头脑可以发明更高效的互补条件。如果能源成为新型粒子加速器的瓶颈,那么更强的智能或许能够设计更精简的加速器,或者找到更好的能源获取方式。

天才也能够替代部分原本需要的辅助条件。爱因斯坦可以从非常有限的实验数据出发推导出相对论,而我们大多数人需要更多资料。有些人能够记住自己的所有日程安排,而大多数人依靠谷歌日历。

智能还可以帮助我们提高选择的准确性,挑选最值得验证的假设,避免把资源浪费在错误的方向上。如果每增加一个天才,都能提高计划的质量,那么即使执行所需要的官僚体系越来越庞大,增加天才的价值仍然很高,因为执行成本越高,错误选择所造成的浪费就越大。

未来不会完全符合这两条路径中的任何一条,但它们可以看作文明可能发展的两个方向。

04 深度文明:靠思想走得更远

智能推动知识进步,大致有三种方式:从基本原理出发进行推理,从已有证据中获得新的洞见,以及通过观察和干预现实世界获取新的证据。

第一种方式可以仅靠思想走得很远。数学就是最典型的例子。在一项证明或者研究工作的多个关键节点上,一个足够强大的头脑可以持续做出正确选择,把原本需要多年摸索的过程变成一条更短、更明确的推理链。

第二种方式同样存在巨大的空间。人类收集到的证据远远超过已经理解的内容。天文图像、显微镜切片、网络评论等大量资料,都受到人类智能有限的制约。科学档案中保存着大量当年为了回答某一个问题而记录的数据,而这些数据可能包含着其他问题的答案。如果拥有足够多的智能,我们甚至不需要收集新的数据,就可能从已有资料中发现新的规律。我们也许可以发现一个新的宇宙,而不需要再收集一个新的光子。

第三种方式就困难得多,因为它需要与物理世界直接接触。物理过程需要时间,而且很多时候无法加速。化学反应需要发生,生物体需要生长,机器需要制造,航天器需要穿越真实的距离,并受到宇宙速度极限的限制。即使拥有完美的智能,也无法提前观察一个尚未发生的实验结果。

但超级智能可以尽量减少与现实世界接触的次数。" 深度文明 " 并不会摆脱对现实的依赖,而是会尽可能节省这种依赖。更好的推理可以找出真正值得进行的少数实验,模拟则可以解决大部分问题,并准确找到必须由现实世界回答的那个不确定性。超级智能可以围绕有限资源进行设计,让每一次现实实验都获得最大的价值。

作者声明:该图片由 AI 生成

例如,一个研究暗物质的天体物理实验室,可能首先把一系列假设交给高度逼真的计算机模型进行测试,检查它们是否与现有数据一致。只有完成这些步骤后,研究人员才会针对最有希望的理论,对天空进行少量新的观测。

这种文明仍然需要支撑天才的各种条件,但每一单位资源能够产生的价值会更高。

" 深度文明 " 也可能像一幅拼图。进步在开始阶段比较容易,接近完成时也可能变得容易,最困难的是中间阶段。刚开始时,我们能找到明显的边缘和简单的拼接方式,等这些部分逐渐完成,剩下的图案还不够完整,却已经没有那么多容易确定的位置。到了最后,剩余的空缺反而会逐渐告诉我们应该填入什么。

科学史上已经有类似的例子。门捷列夫可以根据周期表中已有元素的位置,推测当时尚未发现的元素。标准模型也让物理学家在希格斯玻色子真正被观测到几十年前,就已经有理由预期它的存在。很多时候,实验本身就是针对现有理论和数据所指向的结果设计的。

如果超级智能能够足够深入地理解自然界的规律,它也许能够准确判断下一步究竟需要什么数据。文明的进步因此可以更多依靠深入思考,而不必不断扩大现实世界中的实验规模。

作者声明:该图片由 AI 生成

如果这种效率最终占据主导,文明或许能够以较小的物理规模不断加深对自然的理解,同时减少管理庞大实验设施所需要的制度智能。

人类已经在不离开地球的情况下理解了大量宇宙规律。" 深度文明 " 只是沿着这条道路继续前进。

05 广度文明:当思想跑不过物质

另一种可能是,对新证据的需求最终超过这些效率提升所带来的收益。

智能可以降低每一次接触现实的成本,但同时也可能让我们发现更多必须通过现实验证的问题。更好的仪器可以打开更细的研究前沿,更快的实验也会让更多实验变得值得进行。如果爱因斯坦几乎完全依靠思考建立相对论的过程,可以代表 " 深度文明 ",那么生物学可能更接近 " 广度文明 "。

人类已经积累了大量生物学知识和数据,但一种新药要证明安全、有效,仍然需要在大量人类身上进行测试。如今,机器可以模拟生物过程,让研究人员先在计算机中测试候选药物,但这些数字模拟仍然不足以完全还原现实,因此无法替代大规模人体试验。

机器提出的候选方案越多,现实验证就越容易成为瓶颈。在 " 广度文明 " 中,聪明的大脑本身不足以推动进步。对物质资源的需求,以及管理这些资源所需要的制度体系,可能以更快的速度增长,超过智能节约资源的能力。

即使未来的 AI 远远超过人类,这种情况也可能发生。超级智能或许可以在一个下午设计出未来 100 年的实验,然后花 100 年等待自然和机器完成这些实验。在这样的世界里,把更多智能投入实验、生产和制度执行,可能比继续增加提出新想法的能力更加重要。

如果每一步新的进展都需要更多基础设施,这种趋势还会不断累积。那时,文明中的思考会相对减少,建造会越来越多。实验室实现自动化,工厂不断增加,能源生产扩大,越来越多的制度智能被投入到这些体系中,以保证它们能够正常运行。

物理世界的扩张会成为知识进步的动力。文明之所以继续向外扩展,是因为它提出的问题已经超过了现有条件能够回答的范围,需要更多材料、更多能源和更多数据才能继续前进。

作者声明:该图片由 AI 生成

戴森球可以作为这种未来的极端例子。建造戴森球需要非常重要的科学突破,但整个项目的大部分工作可能不会发生在突破性思考上,而是涉及天文尺度的建造和物流。它需要天才来设计,也需要一个规模巨大、重复而复杂的组织体系来完成建设。

这并非智能不足造成的结果,反而可能是智能取得成功后的结果。越聪明的头脑能够发现越多值得开展的项目,而越复杂的项目又需要更多物质资源来执行。

如果未来确实如此,那么超级智能真正强大的地方可能并不是它有多么聪明,而是它能够承担大量协调工作,管理庞大的技术和制度体系,把想法变成现实,并不断扩大规模。绝大多数机器智能最终可能都被用于那些 " 无聊 " 的工作,而不是最具创造性的工作。

作者声明:该图片由 AI 生成

物理世界本身的速度限制,也可能成为进一步扩张的瓶颈。建造一套收集恒星能源的机器,本质上仍然是一个物质工程,无论设计方案能够多快完成,真正的建设都需要时间。恒星之外还有其他恒星,银河系之外还有其他星系。就目前所知,距离本身就是一种限制:没有飞船能够超过光速,也没有信号能够以超过光速的速度返回。

因此," 广度文明 " 会是一个缓慢的文明。它真正发生的大变化可能相隔数千年,甚至数百万年,每一步都需要更长时间。

农业革命和工业革命,在这样的历史尺度下,可能只是一个漫长文明史中相对短暂的开端。

06 人类仍然需要好奇心

未来的 AI 系统可能同时在人类最看重的两件事情上超过我们:提出前沿洞见,以及协调资源,把这些洞见真正转化为现实成果。但这并不会降低人类好奇心的价值。

首先,即使机器在理解世界方面比我们更强,人类仍然有继续认识世界的责任。宇宙中可能已经存在比我们智慧得多的头脑,它们或许掌握着人类无法理解的科学和道德问题的答案。但我们依然会尝试自己理解这个世界。即使另一种智能出现了,即使这种智能是我们自己创造出来的,也不会改变这一点。

作者声明:该图片由 AI 生成

在我们能够确定人类已经没有任何独特贡献之前,放弃探索都意味着放弃我们仍然能够为这个世界做出的事情。我们仍然有责任不断提出问题,并尝试寻找答案。

其次,人类可能在前沿智能方面拥有相对于制度智能的比较优势。即使机器在这两方面都比人类更强,我们也可能相对更擅长前者,因此可以把自己的精力集中在创造和探索上。人类倾向于选择创造性的工作,而不是重复性的工作。机器人则没有这样的偏好。

第三,多样性本身也有价值。即使机器能够模拟大部分人类思维,只要人类仍然保留一些独特性,就能够继续提供不同的创造方式。

未来,大部分机器智能可能运行在自己的体系中,但其中一小部分仍然可以按照人类的创造意愿被调用。对于整个机器智能体系来说,这只是一小部分;但对于人类而言,这已经可能远远超过我们今天能够获得的资源。

作者声明:该图片由 AI 生成

创造力从来都不是孤立存在的。它需要现实世界作为支撑,天才也需要建造者来实现自己的想法。今天,人类的大量智能都被用于那些很少受到关注的工作:把想法一步步变成现实。未来的机器智能也会继承这种依赖。它们不可能全部成为天才,也必须承担官僚、协调和执行的工作。

人类未来的进步速度,最终取决于一个问题:伟大的头脑究竟能否用更少的现实资源,完成更多的事情,还是每向前一步,都需要一个更庞大的现实世界来支撑。

特约编译金鹿对本文亦有贡献

评论
大家都在看