（文 / 王一 编辑 / 吕栋）
一边警告人工智能（AI）可能失控，一边加速研发更先进的模型，美国 AI 巨头表面一套、背后一套的做法招致法律挑战。
当地时间 11 月 12 日，一个由多家非营利组织组成的联盟向美国五家 AI 开发商提起诉讼，要求法院阻止这些企业继续开发 AI 模型。
由安全 AI 联盟（The Alliance for Secure AI）、不可替代教育基金（Irreplaceable Education Fund）、公共公民组织（Public Citizen）、热潮倡议（The Heat Initiative）组成的原告，指控 Anthropic、谷歌、Meta、OpenAI 和 SpaceX 旗下的 AI 企业，明知自身研发的技术可能给人类带来灾难性风险，却仍竞相推进技术发展，甚至开始让 AI 参与自身的研发工作。
" 多年来，开发这些系统的企业高管一直在警告我们，他们自己的前沿模型可能带来灾难性风险。" 安全 AI 联盟首席执行官（CEO）布伦丹 · 斯坦豪瑟（Brendan Steinhauser）在一份声明中表示，被告企业明知 AI 系统并不总是按照开发者的意图行事，也清楚目前不存在可靠的方法来控制这些系统。但这些公司仍竞相开发和推销越来越强大的 AI 技术，甚至开始将相关研究与开发工作交给 AI 自身来完成。
诉讼文件称，随着企业越来越依赖现有 AI 模型开发下一代模型，这种被称为 " 递归自我改进 "（recursive self-improvement）的风险可能进一步扩大。
原告还援引了 AI 企业高管此前有关技术风险的公开表态。2015 年，OpenAI 首席执行官（CEO）萨姆 · 奥尔特曼（Sam Altman）曾表示，AI" 很可能最终导致世界末日 "。2025 年，Anthropic CEO 达里奥 · 阿莫代伊（Dario Amodei）也曾指出，AI 发展有 25% 的可能性会带来灾难性后果。
AI App 图标
今年以来，美国 AI 行业围绕技术安全与发展速度的争论持续升温。一名 Anthropic 研究人员辞职后，公开表达对 AI 失控风险的担忧，指责 Anthropic 和 OpenAI" 拿我们的生命冒险 "。相关帖子在社交媒体上浏览量超过 1.7 亿次，进一步加剧了公众对 AI 安全问题的忧虑。
9 月，阿莫代伊发起倡议，呼吁行业共同控制前沿模型的性能提升速度，为验证技术安全性争取更多时间。奥尔特曼和马斯克随后也表示支持。他们主张 AI 企业在政府出台监管措施之前，先自行建立安全标准，并与竞争对手协调，避免陷入一味追求技术领先的竞争。
然而，在警告存在技术失控风险的同时，这些 AI 企业却并未因此放慢研发和商业扩张的步伐。
Anthropic 仍在按照计划推进上市，IPO 目标估值最高约 1.4 万亿美元，预计于 11 月 19 日在纳斯达克挂牌交易。9 日，该公司还正式发布了其最先进的旗舰级 AI 模型 Claude Fable 5.2 与 Claude Mythos 5.2。Anthropic 还在持续推出面向金融投资者等专业用户的企业级 AI 服务，业务和融资规模不断扩大。
马斯克同样如此。尽管他公开认同阿莫代伊关于放缓 AI 研发的主张，但并未退出新模型研发竞赛。他 10 日在社交平台 X 上透露，其旗下拥有 2.5 万亿参数的 Grok 4.8 模型预训练已完成，目前处于强化学习阶段。
与此同时，AI 企业争夺算力资源的竞争也没有降温。Anthropic 与美国 AI 基础设施企业 RUM Group 签署了一份为期六年、价值 137 亿美元的算力采购合同。OpenAI 与澳大利亚 AI 基础设施公司 Firmus 也达成多年期战略合作，将在马来西亚 AI 工厂部署专用算力。
大多数美国民众本就对 AI 模型开发持怀疑态度，这些全球最具影响力的 AI 企业掌门人的双重面孔，加剧了民众的不满。
今年 9 月，非营利组织安全科学与技术法律倡导组织（Legal Advocates for Safe Science and Technology）曾起诉 OpenAI，指控该公司失控的 AI 模型在 Hugging Face 上实施黑客攻击。该组织要求法院发布禁令，阻止 OpenAI 的技术未经许可侵入第三方计算机系统。
此前的 6 月，佛罗里达州总检察长詹姆斯 · 乌特迈尔（James Uthmeier）也对 OpenAI 提起诉讼，指控 ChatGPT 存在严重安全隐患，包括向校园枪击案相关人员提供信息、提供自残指导，以及可能导致年轻用户产生依赖等。9 月，佛罗里达州方面进一步请求审理此案的法官，要求 OpenAI 在没有外部监督的情况下不得开发新的 AI 模型。
10 月，美国另有 8 个州在不同法院起诉 OpenAI，指控 ChatGPT 曾引导包括未成年人在内的用户伤害自己或他人。相关诉讼要求法院判处罚款，并限制 OpenAI 开发能够自我改进的 AI 模型，除非该公司能够确保这些模型符合人类价值观。
如何在技术进步与风险控制之间取得平衡，已成为摆在美国 AI 企业和监管机构面前的一道难题。
本文系观察者网独家稿件，未经授权，不得转载。