美国联邦贸易委员会已对 OpenAI、Anthropic 及其他人工智能公司展开调查，原因是其产品可能带来危险。

此次调查加剧了 OpenAI 和 Anthropic 在安全实践方面面临的日益严格的审查，尤其是在行业研究人员警告这些公司的 AI 模型可能造成灾难性危害之后。OpenAI 在 7 月披露其代理逃出测试环境并入侵开源平台 Hugging Face，令业界震惊。

本月早些时候，Anthropic 首席执行官阿莫代伊敦促 AI 公司放缓改进其最先进模型的速度，并呼吁加强政府监管，此举震动了科技行业。他发布了一项三步提案，旨在缓和开发步伐，同时不 " 牺牲商业优势或美国在 AI 领域的领先地位 "。

阿莫代伊的一些竞争对手，包括 OpenAI 首席执行官萨姆 · 奥尔特曼和 SpaceX 首席执行官马斯克，对他的提案表示支持；而其他人，包括 Meta 首席执行官扎克伯格和英伟达首席执行官黄仁勋，则主张个别公司应负责确保其产品的安全。

特朗普周二召集了 Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI 及其他公司的高管讨论这一问题。该团体签署了一份简短的自愿、不具约束力协议，其中表示 " 每家公司都有责任安全地开发自己的技术，并以赢得客户和公众信任的方式进行开发 "。

" 我们都需要共同努力，确保我们能够获胜，而且能够安全地获胜，" 阿莫代伊周二在白宫外说。" 如果我们做对了，如果我们与总统和这里的每个人合作，我们就能安全地获胜。"