昨天，Claude Fable 5 发布，外界对前沿模型安全风险的讨论随即升温。仅仅隔了一夜，Anthropic   首席执行官 Dario Amodei   就发布了最新文章，直指前沿 AI   已到必须强制监管的时刻。

原文链接：https://darioamodei.com/post/policy-on-the-ai-exponential

他指出，AI 已经走到不能再以常规节奏应对的阶段。未来一两年，AI   的能力可能继续呈指数式跃升，并同时放大在安全、经济与科研层面的影响。未来，我们不能只看到模型的风险，而应该关注社会能否更快形成有效回应。

"Mythos Preview 打乱了全球网络安全格局。但它更广泛的意义在于，它无可争议地证明了：AI 模型如今已成为具有全球和国家战略后果的工具。Mythos 级模型带来的网络风险，不会是我们必须面对的最后一种风险。我相信，生物风险可能很快就会跟上，而严重的 AI 自主性风险也可能不远了。"

与这篇文章同时发布的，还有 Anthropic 的两项配套政策主张：一项聚焦前沿 AI 风险治理，一项聚焦岗位替代和就业冲击。

他呼吁，" 我们越早采取行动，就能越早让所有人共享 AI 带来的好处，而不只是让少数人承担它的代价。"

部分内容如下：

在《指环王》的一个支线情节里，两个霍比特人试图唤醒树须——一位睿智但行动迟缓的有感知之树，让他起来保卫自己的森林，抵御一支正在砍伐森林的军队。但树须的运行速度和霍比特人完全不在一个时间尺度上。光是向另一棵树打个招呼，他就要花上一整天，几乎不可能让他足够快地行动起来。

AI 与我们的政治制度之间的关系，感觉就有点像霍比特人与树须。AI 正以闪电般的速度推进。仅仅四年间，AI 模型已经从几乎写不出一行像样的代码，发展到能写出大型 AI 公司中的大部分代码。类似的进展也出现在生物学、物理学、数学、金融、法律、翻译以及许多其他领域。AI 的 Scaling law   表明，随着计算能力的增加，通用认知能力会呈指数增长；这一规律已被十多年实证反复验证。再过一两年，所谓 " 强大 AI" 或许就会出现：一个 " 数据中心里的天才国度 "。

过去几年里，面对迅速商业化的 AI，重视责任与安全的人始终左右为难。我们能够清楚地看到这个指数曲线将通向何方：我们强烈怀疑，几年之内，AI 会成为少数几种从根本上重塑整个政策格局的技术之一。但对于那些只看当下 AI 能做什么的人来说，它看起来更像一种普通得多的技术，也许类似最新的消费类应用，或者加密货币。要让大多数政策制定者和企业意识到，AI 不能放任发展，并不是件容易的事。毕竟， AI 的深远影响还未真正显露，我们也无法判断它会以什么方式展开，所以即使想行动，也未必知道该怎么做。鉴于这些局限，过去几年里，许多安全倡导者（包括 Anthropic）更倾向于推动一些能保留政策回旋空间、便于未来快速应对、也有助于外界看清趋势的措施。

然而，过去几个月里，AI 所具备的惊人能力及其风险，都已经变得不容否认。也许最具象征性的例子，就是   Claude Mythos Preview，以及前沿模型确实会带来真实网络安全风险这一发现，这使其有可能扰乱金融体系、关键基础设施和国家安全。Mythos Preview 打乱了全球网络安全格局。但它更广泛的意义在于，它无可争议地证明了：AI 模型如今已成为具有全球和国家战略后果的工具。Mythos 级模型带来的网络风险，不会是我们必须面对的最后一种风险。我相信，生物风险可能很快就会跟上，而严重的 AI 自主性风险也可能不远了。

无论是在全球范围还是整体层面，我们现在必须动用这套原本运转缓慢、反应迟钝的政策体系，去应对从此刻起将迅速放大的风险与机会。本文的目的，正是尽量缩小这种错位：说明 AI 的指数式发展已经到了什么阶段，以及我们现在需要共同采取哪些行动。

监管与公共安全

Anthropic 很清楚，未来的 AI 可能具备制造生物武器的能力，从而威胁数百万人；也可能出现自主失控行为，在极端情况下甚至威胁整个人类自身。真正不清楚的是，这些风险究竟会以什么形式出现，最好的测试与缓解方式是什么，以及它们在实践中会如何展开。因此，当时一个很大的风险是：提前写出的立法最终会无效，只会制造无意义或价值很低的合规要求，同时错过真正最关键的风险来源。

我们认为以前正确的做法是透明度。AI 模型开发者应被要求披露他们的安全程序、对模型进行的测试，以及任何关键安全事件的报告，从而让公众和科学界在风险出现时能够更清楚地看到它们。等到风险变得更明确、形态更清晰时，就可以利用透明度积累下来的证据，来设计更聪明的立法，精准针对最令人担忧的风险。

现在，是时候从透明度走向更严肃、更具约束力的 AI 监管。我认为，至少在当前这个指数增长阶段，最好的类比是汽车、飞机或药物：它们是现代经济不可或缺的强大技术，但如果设计或操作不当，也可能造成大量人员死亡。前沿 AI 模型和飞机一样，应当经过技术测试与审计；如果未达到高标准的安全要求，其发布应因公共安全威胁而被阻止或撤回。

宏观经济与税收政策

如果 AI 在大多数认知任务上都远胜于人类，它就可能通过提升科研、技术和运营效率，带来快速而持续的经济增长。更强的 AI 还会催生更强的下一代 AI，使这一过程进一步加速。但也正因如此，AI 可能比以往任何技术都更广泛地替代人类劳动，并以更快的速度改造经济。我们真正要面对的，也许不再是如何推动增长，而是如何避免增长与不平等同时失控，并让更多人分享到其中的收益。

我怀疑，强大 AI 可能会打乱这一前提。如果 AI 获得了在绝大多数认知任务上远胜于人类的能力，那么可以合理推断，它将通过加速科学、技术和运营效率，带来极其迅猛而稳健的经济增长。AI 迭代式地构建更强 AI 的能力，甚至可能进一步超级加速这种增长。但也正因为如此，AI 可能会比以往技术更普遍地替代人类认知能力，同时以比以往技术更快得多的速度改变经济。因此，AI 很可能比过去的技术带来规模更大的劳动力市场冲击，而且这种冲击可能更持久。我们面临的风险是：进入一个经济权衡旋钮被卡在 " 超高增长、超高不平等 " 档位的世界，而且可能极难把它拧回来。在这样的世界里，关键挑战不再是如何激励增长，而是如何让每个人都能分享其中的收益。

第一，持久性的岗位替代是不受欢迎的，我们应尽一切努力去最小化或阻止它，而不是促成它。我在采访和文章中警告岗位替代，是因为我希望政策制定者和私营部门能有最大机会去适应和应对，而不是因为我想扮演 " 末日先知 "。作为一家公司，Anthropic 始终尽可能与客户合作，寻找有创造力的新用例和新收入来源，让他们能借助 AI 用现有员工完成更多事情，而不是只盯着削减成本和裁员。我们也一直在努力思考新的交互范式，让人在与 AI 系统协作时尽可能保持积极角色，哪怕这些系统不断进步。从更广泛的角度看，让整个世界尽可能多地试验 AI 的新用法也是有价值的，因为社会正是通过这种方式发现新的岗位配置可能性。我确实认为，AI 将催生一些新的经济机会。我曾预测，AI 会让单个人也有可能建立十亿美元级别的公司，而我们已经看到，只有几个人的小团队就能打造出收入数亿美元的企业。但与此同时，我们也应认识到：即便我们竭尽全力，AI 依然有相当可能造成显著且持久的岗位流失，而这可能是这项技术本身的一种内在属性，因为它在广泛意义上复制了人类认知。

第二，任何针对 AI 驱动岗位替代的应对，都必须同时解决两个问题：一是如何在经济上保障所有人，二是如何让人们继续拥有意义、目标感与能动性。后者最终更重要，因为它关乎社会应如何组织、人应该追求什么，以及什么才算 " 美好生活 " 这些深层问题。实际上，我相当乐观：即便在一个 AI 在一切方面都比所有人更强的世界里，人类依然可以过上充满深刻意义的生活，依然可以努力去创造令人敬畏、令人赞叹的美好事物。但这是整个社会共同需要摸索出来的事情，不是政策本身能够直接解决的。政策最能发挥作用的地方，是为我们争取时间来做这项工作：通过减缓岗位流失，并在经济上支持那些可能受影响的人。

本着这一精神，以下一些关键政策干预可能会有所帮助：

1. 测量与追踪。只靠数据收集和分析，当然不够；但如果连现实变化都看不清，也不可能制定出有效政策。Anthropic 已经做了近一年半的 Claude 使用 " 经济指数 "，但政府掌握着企业拿不到的数据，因此完全可以扩展相关统计，更细致地追踪 AI 对就业的影响

2. 促进就业的激励。各种促进就业的政策激励，都有助于减缓或减少岗位替代，包括：工资保险政策，用于在人们不得不接受更低薪工作时给予补偿；鼓励雇主不裁员的留任税收激励；劳动力培训补助；以及帮助雇主与雇员更快匹配的基础设施，以提高劳动力市场的适应速度。虽然哪种干预最好，将取决于 AI 带来何种类型的岗位替代，但我们应当愿意接受这些政策可能带来的成本和市场低效率，尤其是因为这些代价很可能会被 AI 驱动的生产率提升所抵消。

3. 长期收入支持。  如果 AI 带来的岗位替代规模很大，并长期压低劳动力需求，那么光靠激励政策可能不够，还需要为相当一部分人提供长期收入支持。总体来看，只要经济增长足够快，就应有能力支撑更广泛的共享繁荣。

谈到 AI 的经济影响，数据中心往往最容易成为争议焦点，尤其是在电价可能上涨的情况下。我认为，这部分成本应该由 AI 公司自己消化，Anthropic 也已经承诺这么做。不过，公众真正不安的，未必只是数据中心本身，而是更广泛的 AI 经济影响。若这些深层问题得不到正面回应，即使压下了数据中心争议，类似的焦虑也会在别的地方重新出现。

加速 AI 的积极影响

正如我们需要在 AI 本身的创新与安全之间寻找平衡，也需要在那些可能被 AI 加速发展的领域面对同样的问题，比如生物医学、能源和材料科学。

不过，AI 本身的风险来得快，也几乎没有现成经验可供借鉴；而在这些被 AI 加速的领域，更大的问题往往在于，现有监管体系原本是按较慢的创新节奏设计的，未必能承受 AI 带来的大量新产品和新进展。与此同时，AI 还可能让这些下游技术变得更安全、更可预测，从而动摇监管机构一贯建立在谨慎假设之上的审查逻辑。

因此，在 AI 的下游应用上，与 AI 本身相比，我更担心的不是监管失守，而是监管跟不上，反而拖慢进步。我们最不愿看到的局面是：AI 的好处迟迟落不了地，风险却始终高悬不下。

这一问题在不同的科学、商业和技术领域会有不同表现，解决方式也不会完全一样。这里我只聚焦一个最有代表性的方向：生物医学创新。一方面，它很可能是 AI 带来最大人道主义收益的领域；另一方面，它本身也是监管最复杂的领域之一。我们目前还无法确切判断 AI 会如何加速生物医学创新，但它很可能体现在以下几个方面：

1.   大幅增加进入研发和审批流程的新药候选物数量。

2.   由于优化能力更强，甚至可能因为对底层生物机制理解更深，新药的疗效更显著，安全性也更高。

3.   推动针对那些过去始终无药可治的疾病开发出新的候选药物。

4.   快速催生全新的治疗范式，就像过去几十年里抗体、肽类药物和细胞疗法逐渐发展成新的治疗大类一样。

其中一部分进展，即使不做结构性改革，也会自然缩短监管周期。疗效更强的药物，往往意味着临床试验规模可以更小、成本可以更低，也更容易进入加速审批通道。但当前的监管体系之所以设置了高强度审查和多阶段测试，是建立在这样一种判断之上的：候选药物往往并不起效，即便起效，也常常伴随严重的安全问题。如果不进行改革，AI 只会让这个系统更加拥堵，甚至不堪重负。

当然，我们并不希望为了提速而走向另一个极端，最终放出大量 " 江湖药 " 或者引发广泛的安全事故。但只要做出一些相对简单的改革，就足以让 FDA、EMA 以及类似机构在 AI 真正推动科学研发加速时，具备更强的适应能力。

过去临床流程中有许多步骤，原本只能依赖昂贵而缓慢的实验来完成，但很快，它们可能就可以通过 AI 模拟或分析来替代。监管机构现在就应该开始制定标准，明确在什么条件下可以接受这些方法。这样一来，一旦这些方法真正成熟，就能被迅速纳入流程，而不至于在已经没有必要的情况下，还要被迫沿用传统测试很长一段时间。可能适用的领域包括：

1.   基于 AI 的药效学和药代动力学（PD/PK）建模。

2.   通过毒理学预测，减少甚至避免多物种动物毒理实验的需要。

3.   更准确地选择剂量，从而减少试验中需要覆盖的大剂量范围。

4.   通过大规模数据分析来验证生物标志物。

5.   在临床试验中使用合成对照组，以减少受试者招募需求。

6.   开发替代终点指标，这在衰老和神经退行性疾病领域尤其重要。

除了这些具体例子之外，监管机构还应考虑更激进、也更灵活的加速批准机制。如果我对 AI 的判断是对的，那么很快就会出现许多那种 " 突然表现出极强效果 " 的干预措施。监管体系应当做好准备，认真对待它们，而不是先入为主地采取过度怀疑的态度。

生物医学领域的加速进展，将显著放大 AI 带来的收益。但也值得指出的是，这种加速本身也可能帮助降低 AI 的部分风险。更高效的生物医学审批体系，可能有助于提升生物防御能力；而 AI 推动的生物医学进步，也可能改善心理健康，从而对整个社会起到稳定作用。

机会窗口

AI 的指数式进展，让现有政策体系越来越跟不上节奏；但它也带来了一个难得的窗口期。AI 的风险已经变得清晰可见，人们也开始意识到，它既能创造巨大价值，也会带来明显冲击。加上公众对不受监管的 AI 日益反感，政策制定者如今比过去更愿意提前行动。

如今在 AI 行业圈子里，流行把这看作一个公关问题：说 AI 需要 " 更好的营销 "。我完全拒绝这种框架。人们担心 AI，不是因为 AI CEO 们不够 " 乐观宣传 "，而是因为他们正确地感知到 AI 的风险是真实存在的。我认为，作为 AI 领域的领导者，我有责任把这些风险讲清楚。公众因此感到担忧，并不奇怪。关键在于，如何把这种担忧变成建设性的行动，而不是放任它变成无序的愤怒。

编译：夏千斯

如需转载或投稿，请直接在本文章评论区内留言