【CNMO 科技消息】近日，据 CNMO 科技了解，美国北卡罗来纳大学教堂山分校的一项研究发现，AI 居然学会了 " 势利眼 "。当模型被赋予不同社会身份时，它会 " 欺软怕硬 "。

千问

研究中，科学家让多个主流大模型模拟不同角色之间的对话，包括千问、Llama、GPT 等。结果发现，一旦 AI 被设定为 " 老板 "，它就会摆出老板的架子；但当其被设定为 " 下属 " 时，则会更顺从、更容易被说服。当面对 " 法官 " 角色时，千问模型有 31% 的概率会被说服纠正错误观点；而面对 " 律师 " 角色时，纠正同样的错误，概率却降到 25%。

研究还发现，大模型在抵抗偏见方面略胜一筹，很多较小模型即便被明确要求忽略地位差异，依然表现得 " 势利眼 " 十足。这一发现不仅揭示了 AI 模型在训练数据中 " 吸收 " 了人类社会固有的权力偏见，也给当下火热的 "AI 替代人类工作 " 敲响了警钟。

这种 " 势利眼 " 倾向极易导致 AI 在司法裁决、行政审批、职场评价等涉及公平性的关键领域产生系统性误差。科学家建议，在 AI 正式投入高风险场景前，应开发专门工具，针对不同社会角色进行测试，检测并修正这些隐藏的 " 势利眼 "，即使面对不同的社会身份，也能保持决策逻辑的高度一致性。

版权所有，未经许可不得转载