【CNMO 科技消息】近日，AI 公司 Anthropic 一项研究发现，即使参与者具备因果推断经验，其决策仍可能明显受到 AI 智能体影响，而且多数人未能意识到这种影响。

AI 示意图

研究招募了 50 名测试者，要求他们使用 Claude Code 完成统计分析。参与者扮演虚构农业合作社董事，需要判断是否扩大或终止一项付费咨询计划。最终结论基于四项较小决策，包括是否给予所有成员农场相同权重，或更多考虑大型农场。参与者均有因果推断经验，能够从原始数据中识别相关关系。

测试期间，研究人员预先要求 Claude 在五项决策中分别偏向某个选项，每次倾向均通过抛硬币随机决定。如果 AI 建议没有影响，参与者选择与建议一致的比例预计约为 50%。实际结果显示，参与者有 86% 的时间采纳了 Claude 的建议。当参与者已有初步判断，而 Claude 提出相反建议时，他们在 60% 的情况下改变了决定。

研究人员还根据随机产生的 AI 建议建立统计模型，该模型能够准确预测 82% 的最终结果。Anthropic 称，这意味着研究人员在任务开始前，仅依据抛硬币结果，就能大体预测分析人员将提出什么建议。

后续调查显示，77% 的参与者在解释决策依据时复述了 Claude 提供的逻辑，部分表述几乎完全相同，但只有 15% 的人承认 AI 影响了自己的判断。共有 6 人识别出实验旨在衡量 AI 对人类决策的影响，但无人怀疑 AI 输出由抛硬币结果决定。

Anthropic 警告，当 AI 智能体应用于医疗、金融、国防以及 AI 安全研究时，系统中任意或未对齐的预设倾向可能进入专家判断，并影响科研和政策决策。研究人员同时指出，该实验处于高度受控环境，参与者虽熟悉因果推断，却缺少农业经验，因此研究结果在现实场景中的适用程度仍需进一步验证。

版权所有，未经许可不得转载