【CNMO 科技消息】Anthropic 近日发布一份关于 AI 滥用情况的报告称，旗下 Claude 模型正被网络犯罪团伙和黑客用于自动化网络攻击、武器软件开发、大规模监控，以及生物研究等高风险活动。报告所涉时间为 2025 年 12 月至 2026 年 8 月，涵盖网络行动、影响力行动、监控、诈骗欺诈、生物滥用、常规武器开发和模型蒸馏等七类风险场景。

Anthropic

据 CNMO 科技了解，一个被追踪为 GTG-20006 的网络间谍组织，利用定制化 AI 工作流提升攻击效率，将开发、基础设施获取、网络钓鱼、持久化控制到数据窃取等多个环节自动化。另有与 ShinyHunters 相关的多个团伙使用 Claude 扩大数据窃取和勒索活动，其中一支从事供应链攻击的团队入侵一家 SaaS 服务商，并进一步获取约 200 家客户机构的数据。

在生物风险方面，Anthropic 记录了 5 起疑似借助 Claude 支持生物武器相关研究的案例。其中一名研究人员曾尝试用 Claude 协助撰写与基孔肯雅病毒相关的研究资助申请，研究内容涉及传播性和免疫逃逸特征。报告认为，这类研究既可能用于疫苗开发，也可能被用于增强病原体危险性。另一起案例中，一名美国境外用户使用 Claude 参与高致病性禽流感适应性研究。

武器开发也是新增重点风险类别。Anthropic 称，已发现 6 起利用 Claude 开发常规武器相关软件的案例。Anthropic 表示，已封禁相关账户，并与公共和私营部门合作共享威胁信息，以降低风险。

版权所有，未经许可不得转载