【CNMO 科技消息】一项基于美国用户聊天记录的调查显示，33% 的 AI 聊天机器人用户曾对大语言模型说脏话或进行辱骂。Anthropic 已更新使用政策，禁止用户持续、无必要地虐待或残酷对待 Claude，相关条款于 11 月 12 日生效。

图源网络

调查分析了 2025 年 9 月至 2026 年 9 月期间约 800 万条匿名信息。这些信息来自自愿参与的美国用户，涉及 ChatGPT、Gemini 和 Claude，包括文字及语音输入。结果显示，用户辱骂机器人后，聊天机器人在下一次回复中解决最初问题的比例为 24%；未使用侮辱性语言时，该比例为 35%。

从群体差异看，男性每 1 万词使用 22 个脏词，女性为 16.5 个；35 岁至 44 岁用户为 21.7 个，18 岁至 24 岁用户为 13.3 个。地区方面，内华达州每 1 万词出现 22.7 个脏词，新泽西州的比例约为其一半。

调查还显示，52% 的辱骂信息出现在三类问题之后，包括机器人未遵循指令、给出错误或虚构答案，以及误解用户请求。另有 8% 的辱骂紧随机器人拒绝请求或给出安全规则提示之后，相关请求多数涉及生成真人或名人图像，以及模仿特定艺术家的文案或歌词。

Anthropic 表示，新规针对没有明确目的、反复出现的残酷行为。学术研究等具有合理目的的场景可能不在限制范围内；试图绕过安全机制虽有明确目的，但仍可能违反其平台滥用禁令。公司保留具体执行条款的裁量权，并称规则主要针对极端行为。

版权所有，未经许可不得转载