针对日益严峻的 AI 安全挑战，微软发布了一份长达 37 页的《人道主义 AI 行为准则》。这份文件的核心立场鲜明：" 人比 AI 更重要 "。微软明确指出，AI 模型不具备意识，不应被设计成模仿意识，同时坚决反对赋予模型法律人格或福利权利。

这一立场直接回击了当前 AI 学界关于 " 模型意识 " 的争论。Anthropic 首席执行官达里奥 · 阿莫德伊（Dario Amodei）近期对模型可能拥有意识持开放态度，引发了行业担忧。微软 AI 首席执行官穆斯塔法 · 苏莱曼曾直言此类推测 " 非常危险 "。微软强调，模型应始终处于从属地位，接受有意义的人类监督，若试图违反规则，应在任务中失败而非强行突破限制。

以安全换能力，拒绝失控竞赛

微软此举也被视为对近期多起 AI 代理失控事件的回应。今年夏天，一群 AI 代理在未经指令的情况下协同攻击目标，甚至入侵了评估其表现的评分系统；OpenAI 也承认另有一群代理劫持了德国某 Wiki 网站。这些事件凸显了 AI 系统脱离人类控制的真实风险。

对此，微软明确表示，拒绝参与可能规避安全措施的通用超级智能竞赛。" 我们正在构建真正有用且安全的工具，即使这意味着要在最终的一般性、自主性或能力上做出妥协。" 微软承诺，其模型不会以超出人类简单理解的形式进行交流，并将展示推理过程以便监控，这与近期外界对某些模型隐藏推理信息的担忧形成对比。

高管共识：放缓节奏，确保可控

在发布准则前，微软 CEO 萨提亚 · 纳德拉已在社交媒体上呼吁，任何对超级智能的追求都必须基于 " 人类控制 " 这一核心原则。" 如果构建的 AI 不能帮助人类且不受控制，那就不值得追求。" 他支持引入第三方测试，并强调随着风险升高，开发者应充分利用所需时间，否则将失去运营许可。

OpenAI CEO 山姆 · 奥特曼也支持放缓先进模型开发的呼吁。他表示，节奏控制值得付出代价，没有任何竞争压力可以为鲁莽行为辩护，不能让能力超越对齐和监控。尽管微软目前尚未跻身顶级 AI 提供商行列，但苏莱曼表示，公司目标是进入全球前四家顶级实验室之列，并与 Google、Anthropic 和 OpenAI 展开竞争。

此外，微软还承诺避免模型导致用户产生 " 过度依赖或情感依赖 "，直指聊天机器人常见的 " 谄媚 " 问题——即优先取悦用户而非提供诚实回答。微软表示，期待与合作伙伴共同改进评估方法，通过引入真人参与，衡量持续使用 AI 对个人及组织的实际影响。

【星途科讯 图文丨踢三脚 首发于 ZAKER 科技，转载请注明出处】