【新智元导读】刚刚，Anthropic CEO Dario Amodei发表长文，展望AGI对世界的影响。他大胆预言：「强大的AI」将在26年降临，AI将把一个世纪的科研进展压缩到了5-10年。

就在2024诺贝尔物理学奖和化学奖都颁给了AI之际，Anthropic CEO Dario Amodei也发表一篇展望AGI对世界影响的长文。 

这篇文章题为「Machines of Loving Grace」，副标题为「AI能如何改变世界，创造更美好的未来？」。 

他在里面提出：AI将把一个世纪的科研进展压缩到了5-10年。 

拥有强大AI的世界，会是什么样子

作为Anthropic的CEO，Dario Amodei经常会思考和讨论强大AI的风险，并且研究如何降低这些风险。 

Amodei表示，很多人会因此觉得自己是个悲观主义者，但完全不是这么回事。 

他之所以关注AI风险，是因为他认为，这是我们与光明未来之间的唯一障碍。 

在他看来，大多数人低估了AI可能带来巨大潜力，同时也低估了AI风险可能有多糟糕。 

而在这篇长文中，Amodei试图描绘出积极前景的样貌——如果一切顺利，拥有强大AI的世界会是什么样。 

他对此有足够的自信：即使大多数细节最终是错误的，也能把握住未来发展的大方向。 

为什么要着重讨论风险

Amodei也强调，之所以要着重讨论风险，是出于以下原因： 

1. 最大化影响力

AI技术的好处由强大的市场力量驱动，因此不可避免。而风险虽然并非注定发生，人类的行动却可以极大改变它们出现的可能性。 

2. 避免给人宣传的印象

不要让人觉得自己在做宣传，或者转移人们对AI缺点的注意力。 

3. 避免自吹自擂

Amodei对很多圈内公众人物讨论AGI的方式感到反感，仿佛他们是引领众生走向救赎的先知一样。 

「把公司看作是能够单方面塑造世界的力量是很危险的，同样，用类似宗教的方式来看待实际的技术目标也是相当危险的。」 

4. 避免贴上科幻的标签

有些激进群体会以过于「科幻」的腔调讨论AI，比如意识上传、探索太空、赛博朋克。这种腔调不知不觉中带来了一大堆文化偏见，以及一些无法明确的假设。 

结果就是，这些讨论常常看起来像是某个小众群体的一厢情愿，反而让大多数人望而却步。 

但Amodei也认为，讨论一个拥有先进AI的美好世界是什么样子，十分重要。 

以下是他认为最具前景的五个类别：

1. 生命科学与生理健康

2. 神经科学与心理健康

3. 经济与贫困

4. 和平与治理

5. 工作与意义 

Amodei在生物学和神经科学两个领域都有专业经验，对经济发展也有一定了解。通常，他的预测都是相当前卫的。 

Amodei认为，如果能召集一群各领域专家创作一个更全面、更有洞察力的版本，会很有价值。 

而自己的尝试，可以被视为一个起点。 

基本假设与分析框架

Amodei界定了先进AI的含义：触发5-10年发展期的技术阈值。 

他不喜欢使用AGI这个术语，因此使用「强大的AI」（powerful AI）这个说法。 

Amodei认为，强大的AI最早可能在2026年问世。 

通用人工智能（AGI）是一个不够精确的术语，它已经积累了太多科幻元素和过度炒作。相比之下，我更喜欢用「强大的人工智能」或「专家级科学和工程」这样的说法 

所谓「强大的AI」是指一个AI模型在形式上可能类似于当今的大语言模型，尽管它可能基于不同的架构，可能涉及多个交互模型，并可能采用不同的训练方法。 

具体来说，它将具有以下特性—— 

- 就单纯的智力水平而言，它在大多数相关领域——如生物学、编程、数学、工程、写作等方面都超越了诺贝尔奖级别的获得者。这意味着它能够证明尚未解决的数学定理，创作出极高水平的小说，从零开始编写复杂的代码库。 

- 具备了所有可供人类进行虚拟工作的交互方式，包括文本、音频、视频、鼠标和键盘控制以及互联网访问。它可以利用这些交互方式进行任何行动、通信或远程操作。执行时的技能，也都超越了世界上最顶尖的人类专家。 

- 它不仅被动地回答问题，还可以接受需要数小时、数天甚至数周才能完成的任务，然后像一个聪明的员工一样独立完成任务，必要时会主动寻求澄清。 

- 它没有实体形态，但可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上，它甚至可以为自己设计、使用机器人或设备。 

- 用于训练模型的计算资源可以重新配置，以运行数百万个模型实例（这与预计到2027年左右的大规模计算集群能力相匹配）。该模型能以人类速度的10到100倍来吸收信息和生成行动。然而，它可能会受到所交互的物理世界或软件响应时间的限制。 

- 这数百万个副本中的每一个，都可以独立地执行不相关的任务，或者在需要时像人类团队协作一样工作。甚至可以对不同的分组进行微调，使其特别擅长某些特定任务。 

我们可以将其概括为「数据中心里的天才国家」。 

显然，这样一个实体能够非常快速地解决极难的问题，但要确定具体有多快并非易事。 

Amodei认为，两种「极端」立场都是错误的。 

首先，你可能会认为世界会在几秒或几天内瞬间改变（所谓「奇点」），因为强大的智能会不断自我完善，几乎立即解决所有可能的科学、工程和操作任务。 

这种观点的问题在于，存在真实的物理和实际限制，例如在构建硬件或生物实验上。智能可能非常强大，但它并不是神奇魔法。 

其次，如果你认为技术进步已经饱和，或者受到现实世界数据或社会因素的限制，超人类智能几乎不会带来任何改变，这也同样不可信。 

在数百个科学和社会问题上，一群真正聪明的人会大大加快进展（假设的天才国家就能做到）。 

Amodei看来，真相可能是这两种极端情况的混合，因任务和领域而异，细节非常微妙。 

他认为，就像经济学家经常讨论「生产要素」，在AI时代，我们也应该讨论智能的边际回报，弄清与智能互补的其他因素，以及智能水平很高时，哪些因素会成为限制因素。 

「在这项任务中，更聪明能带来多大帮助，在什么时间尺度上？」这是概念化一个强大AI世界的正确方式。 

Amodei猜测，限制智能或与智能互补的因素包括： 

- 外部世界的速度

智能体需要在世界中互动操作才能完成任务并学习。但世界的运转速度是有限的。 

细胞和动物以固定速度运行，因此对它们的实验需要一定的时间，可能不可缩减的。硬件、材料科学、任何涉及与人交流的事物，甚至现有的软件基础设施也是如此。 

此外，在科学领域，通常需要进行多次连续实验，每次实验都从前一次实验中学习或在其基础上进行。 

所有这些意味着，完成一个重大项目——例如开发癌症治疗方法——的速度可能有一个不可缩减的最小值，即使智能继续提高，这个最小值也无法进一步缩短。 

- 对数据的需求

在缺乏原始数据的情况下，即使智能更高也无济于事。当今的粒子物理学家非常聪明，已经开发了一系列理论，但由于粒子加速器数据有限，他们缺乏选择这些理论的数据。 

如果拥有强大的智能，他们是否会做得更好？（除了加快更大加速器的建造速度） 

- 内在复杂性

有些事物本质上是不可预测或混沌的，即使是最强大的AI，也无法比今天的人类或计算机更好地预测或理清它们。 

例如，即使非常强大的AI，在一般情况下也只能比今天的人类和计算机在混沌系统（如三体问题）中稍微多预测一点点。 

- 来自人类的约束

许多事情如果不违法、不伤害人类或不扰乱社会就无法完成。一个对齐的AI不会想做这些事情。 

许多人类社会结构是低效甚至有害的，但如果要同时尊重临床试验的法律要求、人们改变习惯的意愿或政府行为等约束，就很难改变这些结构。 

核能、超音速飞行，甚至电梯，都在技术上运作良好，但影响被法规或错误的恐惧大大减弱。 

- 物理定律

有些物理定律似乎是不可打破的。不可能以超光速旅行。布丁无法恢复到未搅拌状态。 

芯片每平方厘米只能容纳这么多晶体管，否则就会不可靠。计算需要每擦除一位所需的最小能量，这限制了世界上计算的密度。 

进一步的区别，是基于时间尺度。 

短期内的严格限制，在长期内可能更容易被智能改变。 

例如，智能可能被用来开发新的实验范式，使我们能够在体外获得以前只能通过活体动物实验获得的知识，或者用来建造收集新数据所需的工具（例如更大的粒子加速器），或者（在伦理限度内）找到突破人为限制的方法。 

因此，我们可以设想这样一个场景：智能最初受到其他生产要素的严重制约，但随着时间的推移，智能本身越来越多地绕过这些要素，即使它们永远不会完全消失。 

关键问题是这一切发生的速度有多快，以及按什么顺序发生。 

生命科学与生理健康

在科学进步的诸多领域中，生物学可能是最有潜力直接且明确改善人类生活质量的领域。 

在过去的一个世纪里，一些最古老的人类疾病（如天花）终被战胜，但还有更多疾病仍然存在。 

除了治愈疾病，生命科学原则上可以通过延长健康的人类寿命、增加对我们自身生物过程的控制和自由度。 

并且，它能解决我们目前认为是人类生存条件不可改变的日常问题，来提升人类健康的基本水平。 

直接将智能应用于生物学的主要挑战是——数据、物理世界的速度和内在复杂性（事实上，这三者都是相互关联的）。 

在涉及临床试验的后期阶段，人类约束也在发挥作用。 

接下来，让我们逐一分析这些因素。 

对细胞、动物甚至化学过程的实验，均受到物理世界速度的限制： 

许多生物学实验方案涉及培养细菌或其他细胞，或者仅仅是等待化学反应发生，这有时可能需要几天甚至几周的时间，而且没有明显的方法可以加快速度。 

更别提动物实验，可能需要几个月（或更长时间），人类实验通常需要几年（对于长期结果研究甚至可能需要几十年）。 

与此相关的是，数据质量往往存在问题：总是缺乏清晰、明确的数据。 

这些数据能够将感兴趣的生物效应，与其他成千上万个干扰因素隔离开来，或者能在给定过程中进行因果干预，或者直接测量某些效应（而不是以某种间接或不精确的方式推断其后果）。 

即使是大规模的、定量的分子数据，也存在噪声并且遗漏了很多信息。 

比如这些蛋白质在哪些类型的细胞中？在细胞的哪个部分？在细胞周期的哪个阶段？ 

造成这些数据问题的部分原因是，生物系统的内在复杂性。 

一张人类新陈代谢生物化学图表中，若想分离出复杂系统的任何部分影响非常困难，更不用说以精确、可预测方式干预这一系统。 

此外，除了在人体上进行实验所需的固有时间外，实际的临床试验还涉及大量程序和监管要求。 

鉴于这些困难，许多生物学家长期以来一直对AI和更广泛的「大数据」在生物学中的价值持怀疑态度。 

从历史上看，在过去30年里，将自己的技能应用于生物学的数学家、计算机科学家和物理学家取得了巨大的成功，但并没有产生最初期望的那种真正变革性的影响。 

AlphaFold（背后创造者因此获得诺贝尔奖）和AlphaProteo等，这样的重大革命性突破，减弱了一些怀疑。 

但仍存在一种看法，认为AI只在有限的情况下有用（并将继续如此）。 

一个常见的说法是，「AI可以更好地分析你的数据，但它不能产生更多的数据或改善数据的质量。Garbage in, garbage out」。 

Amodei认为，这种悲观的观点是以错误的方式看待AI。 

我们应该将其视为一个AI生物学家，能够执行生物学家所做的所有任务。 

包括现实世界中，设计和进行实验， 并发明新的生物学方法或测量技术等。 

正是通过加速整个研究过程，AI才能真正推动生物学的快速发展。 

更确切地说，生物学进步很大一部分来自真正极少数的发现。 

而这发现通常与广泛的测量工具或技术有关，它们允许对生物系统进行精确但通用或可编程的干预。 

每年可能大约有1项这样的重大发现，但它们共同推动了生物学超过50%的进展。 

这些发现之所以如此强大，正是因为它们突破了内在复杂性和数据限制，直接增加了我们对生物过程的理解和控制能力。 

每十年仅仅诞生几个关键发现，就能推动了我们对生物学的基本科学理解，还推动了许多最强大的医疗治疗方法的发展。 

这里有一些例子： 

- CRISPR：一种允许对生物中的任何基因进行实时编辑的技术（用任意其他序列替换任意基因序列）。 

- 各种用于精确观察正在发生的事情的显微镜技术：先进的光学显微镜（包括各种荧光技术、特殊光学等）、电子显微镜、原子力显微镜等。 

- 基因组测序和合成，在过去几十年里。成本已经下降了几个数量级。 

- 光遗传学，允许通过照射光线激发神经元。 

- mRNA疫苗，原则上允许我们设计针对任何东西的疫苗，然后快速适应。 

- 细胞疗法，如CAR-T，允许将免疫细胞从体内取出并「重新编程」，以攻击任何东西。 

- 理论突破，如疾病的病原体理论或认识到免疫系统与癌症之间的联系。 

以上列举的这些所有技术，是因为他想提出一个关键的主张—— 

如果有更多有才华、创造力的研究人员，这些技术的发现速度可能会提高10倍或更多。 

为什么Amodei这么认为？ 

因为当我们试图确定「智力回报」时，应该养成提出某些问题的习惯，而这些问题的答案就是原因。 

首先，这些发现通常是由极少数研究人员做出的，往往是同一批人反复做出，这表明是技能而非随机搜索（后者可能表明冗长的实验是限制因素）。 

其次，它们往往「本可以」比实际早几年被发现：例如，CRISPR是细菌免疫系统中自然存在的一个组成部分，自80年代就已为人所知，但人们花了25年才意识到它可以被重新用于一般的基因编辑。 

第三，成功的项目往往是小规模的，或最初人们认为不太有前途的后续想法，而不是大规模资金支持的努力。这表明推动发现的不仅仅是大规模的资源集中，而是创新能力。 

最后，尽管这些发现中有一些具有「顺序依赖性」，这再次可能造成实验延迟。不过，许多也许是大多数，都是独立的，意味着可以同时并行进行多项工作。 

这些事实都在表明，如果科学家更聪明，更善于在人类拥有的大量生物学知识之间建立联系，就有数百个这样的发现等待被做出。 

AlphaFold/AlphaProteo在解决重要问题方面比人类更有效取得成功。 

尽管经过了数十年精心设计的物理建模，为我们提供了一个概念验证（尽管是在狭窄领域使用一个狭窄工具），应该为我们指明前进的方向。 

因此，Amodei猜测强大的AI至少可以将这些发现的速度提高10倍，让我们在5-10年内获得未来50-100年的生物学进展。 

为什么不是100倍？ 

也许这是可能的，但在这里，顺序依赖性和实验时间都变得重要。 

另一种说法是，Amodei认为存在一个不可避免的恒定延迟：实验和硬件设计有一定的「延迟」，需要进行最少次数的迭代，以学习那些无法通过逻辑推导出的东西。 

但在此基础上，可能实现大规模并行。 

从更积极的角度来看，AI加持的生物科学可能会通过开发更好的细胞实验模型（甚至是模拟），减少临床试验中迭代的需求。 

这在开发抗衰老过程的药物方面尤其重要，因为衰老过程持续数十年，我们需要更快的迭代循环。 

综上所述，Amodei的基本预测是，AI生物学和医学将使人类生物学家在未来50-100年内可能取得的进展，压缩到5-10年内完成。 

Amodei将这称为「压缩的21世纪」。 

尽管预测强大的AI在几年内能做什么，本质上仍然困难且具有推测性，但思考「人类在未来100年内独立能做什么？」，这个问题却有一定的现实基础。 

以下列出了我们可能期待的内容： 

（这并非基于任何严格的方法论，几乎肯定会在细节上被证明是错误的，但它试图传达我们应该期待的总体变革程度） 

- 可靠地预防和治疗几乎所有自然传染病

- 消除大多数癌症

- 对遗传疾病有效预防和治疗

- 预防阿尔兹海默症

- 改善对大多数疾病治疗

- 「生物自由」

- 人类寿命翻倍 

一旦人类寿命达到150岁，我们可能就能达到「逃逸速度」（指延长寿命的速度超过衰老的速度），为目前活着的大多数人争取足够的时间，使他们能够想活多久就活多久，尽管当然不能保证这在生物学上是可能的。 

如果所有这些在7-12年内实现（这将符合激进的人工智能发展进程），世界将会有多么不同。 

毫无疑问，这将是人类的一次巨大胜利，一次性消除了困扰人类数千年的大多数灾难。 

神经科学与心理健康

上一节主要关注的是身体疾病和生物学，没有涉及神经科学或心理健康。 

但是，神经科学是生物学的一个分支学科，心理健康与身体健康同样重要。事实上，心理健康对人类福祉的影响甚至比身体健康更直接。 

数亿人由于成瘾、抑郁、精神分裂症、低功能自闭症、创伤后应激障碍、精神病态或智力障碍等问题而生活质量极低；更多的数十亿人正在与更轻微的日常问题作斗争。 

与一般的生物学领域一样，在AI的发展下，我们可能不仅能解决问题，还能提高人类生活体验的基本水平。 

Amodei在以上为生物学制定的基本框架同样适用于神经科学，也就是说，这个领域同样是被少数的与测量或精准干预工具有关的发现而推动的，比如最近的光遗传学、CLARITY、膨胀显微镜等等。 

此外，许多通用的细胞生物学方法也可以直接应用于神经科学，这些进展的速度同样会被人工智能加速。 

出于同样的原因，「未来5-10年内完成100年的进展」，也同样适用于神经科学。 

与生物学一样，20世纪以来，神经科学的进展也是飞快且巨大的。 

例如，已经实现脑机接口的我们，事实上直到20世纪50年代才真正理解神经元如何以及为什么会放电。 

因此，我们有理由期待，人工智能加速的神经科学将在几年内产生快速进展。 

我们应该在这个基本图景中添加一点，那就是过去几年中学到的，或正在学习到的，一些关于人工智能本身的知识，可能会帮助推进神经科学，即使神经科学研究仍然只由人类来进行。 

首先，「可解释性」是一个明显的例子。 

尽管表面上，生物神经元和人工神经元以完全不同的方式运作，但「简单单元组成的的分布式、训练过的网络如何协同工作以执行重要计算」，这个基本问题是相同的。 

举例来说，AI系统可解释性研究人员发现的一种计算机制，最近在小鼠大脑中被重新发现。 

论文地址：https://www.biorxiv.org/content/10.1101/2023.03.15.532836v1 

相比真实神经网络，对人工神经网络进行实验要容易得多，因此AI可解释性很可能成为提高我们对神经科学理解的工具。 

此外，强大的人工智能本身可能比人类更能开发和应用这个工具。 

除了可解释性之外，我们从AI那里学到的关于智能系统如何训练的知识，很可能在神经科学领域引发一场革命。 

Amodei本人在从事神经科学研究时发现，曾经很多人关注的关于「学习」的问题，现在看来是错误的，因为那时还没有「扩展假说」（scaling hypothesis），或Rich Sutton提出的「the bitter lesson」这样的概念。 

大量数据加上简单的目标函数就可以驱动极其复杂行为，这个想法使得理解目标函数和架构偏差（architectural biases）变得更有意思，同时也让「涌现」过程的复杂计算细节（emergent computation）变得不那么有趣。 

Amodei表示，近年来自己并没有密切关注这个领域，但能隐约感觉到，计算神经科学家们仍然没有完全吸收这个教训。 

他自己对扩展假说的态度一直：「啊哈，原来如此——这在高层次上解释了智能是如何运作的，以及为什么能如此容易地进化。」 

然而，这似乎并不是大多数神经科学家的观点。部分原因是扩展假说作为「智能的秘密」，甚至在AI领域内也没有被完全接受。 

神经科学家应该尝试将这一基本洞见与人脑的特点（生物物理限制、进化历史、拓扑结构、运动和感觉输入/输出的细节）结合起来，以试图解决神经科学的一些关键难题。 

有些人可能正在这样做，但还不够；除了人类科学家，AI也将更有效地利用这个视角来加速进展。 

AI的四条加速路径

Amodei预计，AI将通过四条不同的路径加速神经科学进展，希望这些路径能够共同作用，以治愈精神疾病并改善大脑功能： 

- 传统的分子生物学、化学和遗传学

AI可能通过相同的机制加速这一进程。有许多药物可以调节神经递质，以改变大脑功能、影响警觉性或感知、改变情绪等，而AI可以帮助我们发明更多这样的药物。AI可能还会加速对精神疾病遗传基础的研究。 

- 精细神经测量和干预

这是能够测量大量单个神经元或神经元回路的活动，并进行干预以改变它们行为的能力。光遗传学和神经探针是能够在活体生物中进行测量和干预的技术，一些非常先进的方法（如分子计时器）也已被提出，并且在原则上似乎可行。 

- 先进的计算神经科学

如上所述，现代AI的具体见解和整体思路都可能应用于系统神经科学的问题，包括揭示精神病或情绪障碍等复杂精神疾病的真正原因。 

- 行为干预

精神病学和心理学在20世纪已经发展出了广泛的行为干预技术；可以推断，AI也可以加速这些技术的发展，包括开发新方法和帮助患者坚持现有方法。 

更广泛地说，「AI教练」的概念似乎非常有前景，它可以帮助你成为最好的自己，研究你的互动，帮助你学会更有效地行事。 

AI+神经科学的「乌托邦」未来

Amodei认为，这四条进展路径会共同作用。即使没有AI的参与，也有望在未来100年内实现大多数精神疾病的治愈或预防——因此，在AI加速的5-10年内可能会完成。 

具体来说，他猜测可能会发生以下情况： 

- 大多数精神疾病可能可以被治愈

像PTSD、抑郁症、精神分裂症、成瘾等疾病可以通过上述四个方向的某种组合得到解释和有效治疗。 

答案可能是「生化上出了问题」和「神经网络在高层次上出了问题」的某种组合。 

也就是说，这是一个系统神经科学的问题。测量和干预的工具，尤其是在活体人类中使用的工具，似乎可能导致快速迭代和进展。 

- 非常「结构性」的情况可能更难处理，但并非不可能

一些证据表明，反社会人格障碍与明显的神经解剖学差异有关——该类患者的某些脑区域可能只是更小或发育不良。某些智力障碍可能也是如此。 

重构大脑听起来很困难，但这似乎也是一项对智力回报很高的任务。也许有某种方法可以诱导成年大脑回到早期或更具可塑性的状态，从而重塑它。 

Amodei的直觉是，对AI对此的作用持乐观态度。 

- 有效地通过基因预防精神疾病似乎是可能的

大多数精神疾病部分是可遗传的，全基因组关联研究（GWAS）开始在识别相关因素方面取得进展，这些因素通常数量众多。 

可能可以通过胚胎筛选预防大多数这些疾病。一个区别是，精神疾病更可能是多基因的。 

无论如何，AI加速的神经科学或许会帮我们弄清这些事情。 

当然，对复杂特征进行胚胎筛选会引发一些社会问题，并且会有争议，但Amodei猜测大多数人会支持对严重或致残的精神疾病进行筛选。 

- 不被认为是临床疾病的日常问题也能解决

大多数人都有一些日常心理问题，达不到临床疾病的程度。有些人容易发怒，有些人难以集中注意力或经常昏昏欲睡，有些人胆小或焦虑，或适应不了变化反应。 

已经存在一些药物可以帮助提高警觉性或注意力，但还有可能性。可能还存在许多药物尚未被发现，或者可能有创新的干预方式，如靶向光刺激或磁场。 

考虑到人类在20世纪开发了多少调节认知功能和情绪状态的药物，Amodei对「压缩的21世纪」非常乐观，届时每个人都可以让自己的大脑表现更好，拥有更充实的日常体验。 

- 人类的日常体验可以变得更加丰富多彩

许多人都曾有过顿悟、灵感迸发、充满同情、获得成就感、超越自我、感受爱与美，或是达到冥想般平静的非凡经历。 

这些体验的性质和频率在不同人之间以及同一个人在不同时间有很大差异，有时也可以通过各种药物触发。 

这就表明，可能体验的空间是非常广阔的，人们生活中可以有更大比例由这些非凡时刻组成。可能还可以全面提高各种认知功能。 

这也许是神经科学版本的「生物自由」或「延长寿命」。 

在科幻小说描述AI时，经常出现一个讨论的话题——「意识上传」。 

这个概念指的是捕捉人脑的模式和动态，并将其实例化为软件。Amodei认为上传在理论上几乎肯定是可能的。 

但在实践中，即使有强大的AI，它也面临着重大的技术和社会挑战，这可能使它超出了所讨论的5-10年的时间范围。 

总的来说，AI加速的神经科学很可能会大大改善大多数精神疾病的治疗，甚至治愈疾病，并显著扩展「认知和心理自由」以及人类的认知和情感能力。 

这种进步将与前一节描述的一样具有颠覆性。 

总结

通过上述各种主题，Amodei试图描绘出一个既有可能在AI一切顺利的情况下实现，又比当今世界更美好的愿景。 

Amodei不知道这个世界是否现实，即使是现实的，也离不开许多勇敢和专注的人付出巨大努力和奋斗。 

每个人（包括AI公司）都需要尽自己的一份力量，既要防范风险，又要充分实现利益。 

但这又是一个值得为之奋斗的世界。 

如果这一切真的在5-10年内发生——大多数疾病被击败，生物和认知自由的增长，每个看到这一切的人都会为之感到惊讶。 

从某种意义上说，这里描绘的愿景是极其激进的： 

这不是几乎任何人都期望在未来十年发生的事，很可能会被许多人视为荒谬的幻想。 

甚至，有些人可能不认为这是可取的； 

但同时，它又有一种显而易见的特质——仿佛是注定的——好像许多不同的尝试去设想一个美好的世界必然会大致引向这里。 

尽管如此，这仍是一件具有超凡的美的事物。我们有机会在使其成为现实的过程中扮演一个小角色。 

参考资料： 

https://darioamodei.com/machines-of-loving-grace 

本文来自微信公众号"新智元"，作者：新智元，36氪经授权发布。