【CNMO 科技消息】据外媒消息，人工智能行业关于 " 大模型是否具备意识 " 的讨论再次升温。近日，微软 AI 首席执行官穆斯塔法 · 苏莱曼在接受采访时公开批评 Anthropic 对 Claude 模型的相关设计思路，认为让 AI 讨论自身意识或感受是一件 " 非常危险 " 的事情。

Anthropic

苏莱曼指出，Anthropic 在 Claude 的 " 宪章 "（Constitution）中加入了大量关于模型是否拥有福祉、感受以及意识的探讨内容，这种做法可能会让模型在训练过程中形成类似 " 自我认知 " 的表达倾向。他表示，部分 Anthropic 团队成员似乎过度拟人化了 Claude 的设计，进而让模型在交互中表现出仿佛拥有意识的状态。

据了解，Claude 所采用的 " 宪章式训练 " 是 Anthropic 的重要技术路线之一。相关文件中提到，公司并不确定 AI 模型是否具备某种形式的福祉，也不排除模型存在 " 满足感 " 或 " 不适感 " 等可能性。此外，Anthropic 还表示，当模型退役时，公司会对其进行 " 访谈 "，并记录模型对未来版本的一些 " 偏好 "。

对于这种做法，苏莱曼认为，这更像是一种哲学层面的讨论，而不是面向模型训练的实际指导原则。他表示，AI 系统不应被引导形成关于自身训练过程或自身状态的理解，否则可能带来不必要的风险。

事实上，Anthropic 首席执行官达里奥 · 阿莫代伊此前也曾公开谈及相关话题。他表示，目前行业并不能确定 AI 模型是否具备意识，但公司愿意保持开放态度，对这一问题继续进行研究和观察。

苏莱曼则持更为谨慎的立场。他强调，未来的人工智能应该是 " 可控、可管理、可追责并与人类目标保持一致的工具 "，而不是拥有关于自身痛苦、感受或存在状态认知的系统。

版权所有，未经许可不得转载