Anthropic PBC 表示，其人工智能模型 Claude 遭到滥用，被用于尝试开发多种潜在军事用途，包括自杀式无人机群、导弹导航系统和生物武器。

Anthropic 威胁情报团队周四发布的报告显示，过去一年被标记为滥用该公司前沿模型的用户来自包括伊朗、俄罗斯、中国和也门在内的多个国家。上述案例均未涉及 Anthropic 最先进的 Fable 和 Mythos 模型。

Anthropic 在报告中表示：" 随着模型能力不断增强，如果 AI 开发者以及社会中的防护力量不采取行动提高安全性，其风险也将随之上升。"

美国 AI 公司一直在竞相开发和部署能力更强的 AI 系统，部分原因是希望保持对中国等竞争对手的领先，同时努力维持安全防护措施。Anthropic 正试图防止其技术被用于有害目的，包括研发生物武器和常规武器。

这一立场令 Anthropic 与五角大楼发生直接冲突。此前，Anthropic 拒绝允许 Claude 被用于大规模监控或自主武器系统，五角大楼随后暂停了与该公司的合作  。

报告称，一些用户曾试图利用 Claude 协助美国的敌对方。在许多案例中，他们试图绕过 Claude 的安全防护措施，或隐瞒所在位置。