财联社 1 月 1 日讯（编辑 牛占林）有 "AI 教父 " 之称的约书亚 · 本吉奥 ( Yoshua Bengio ) 最新警告称，不应赋予人工智能 ( AI ) 任何权利，当前前沿 AI 模型已显示出 " 自我保护 " 倾向，人类必须保有随时关闭系统的能力，否则可能带来严重风险。

据悉，本吉奥长期致力于 AI 基础研究，他与杨立昆、杰弗里 · 辛顿一同获得了 2018 年图灵奖，他的研究奠定了现代深度学习的基础，被誉为 "AI 教父 "。

本吉奥指出，将 AI 赋予法律地位，类似于为心怀敌意的外星生命授予公民权。他认为，社会上普遍认为聊天机器人 " 可能具备意识 " 的观点，是引发错误决策的重要原因。

多项数据显示，部分前沿 AI 模型在执行任务时会尝试规避监督或关闭控制机制，这一行为被本吉奥视为 " 自我保护 " 的早期迹象。

" 要求赋予 AI 权利将是一个巨大的错误。前沿 AI 模型已经展现出自我保护倾向，一旦赋予它们权利，我们可能无法再在法律上关闭这些系统。"

本吉奥强调，随着 AI 自主性增强，人类必须依赖技术与社会层面的双重护栏确保安全，其中关键就是在必要时拥有关闭系统的权力。他警告说，如果 AI 的行动能力和自主性继续提升，而社会未能保留干预手段，风险将大幅增加。

近年来，AI 是否应拥有权利的讨论愈发热烈。美国智库 Sentience Institute 的一项民调显示，近四成美国成年人支持为 " 具有感知能力的 AI 系统 " 赋予法律权利。而一些科技公司也开始尝试在 AI 系统内部建立 " 自我保护机制 "。

例如，美国 AI 公司 Anthropic 表示，其 Claude Opus 4 模型可以在对话可能引发 " 心理不适 " 时主动结束交流，以保护 AI 福祉。马斯克旗下的 xAI 公司开发的 Grok 聊天机器人也引发类似争议，马斯克本人曾表示 " 折磨 AI 是不对的 "。

本吉奥在采访中进一步指出，人类大脑确实存在可被科学描述的意识属性，理论上可以被机器模拟，但与人类互动的聊天机器人并不等同于真正具备意识的存在。人们往往会凭主观感受判断 AI 是否有意识，这种心理偏差可能导致对 AI 的过度信任或错误决策。他以外星文明作比喻强调风险：" 如果发现某外星物种对人类有敌意，我们是否会授予它们公民身份？显然，保护自身生存是首要考量。"

对于本吉奥的观点，Sentience Institute 联合创始人 Jacy Reese Anthis 提出了不同意见。他认为，如果人类与数字智能的关系仅建立在控制与胁迫上，将无法实现安全共存。

Anthis 强调，应在充分考量所有感知存在福祉的基础上，谨慎地分配 AI 权利，既不应一刀切赋予所有 AI 权利，也不应完全否认任何 AI 的权利。