【CNMO 科技消息】微软总裁布拉德 · 史密斯近日表示，人工智能目前受到的监管远远不够，甚至不如牛奶和洗衣机这样的普通消费品。他呼吁各国尽快建立全球性的 AI 安全规则，包括要求企业在 AI 系统失控并造成损害时通知受害者、提交事故报告，以及在部分 AI 产品正式发布前接受独立评估机构的审查。

微软公司

史密斯在接受英国广播公司采访时说，家里洗衣机受到的安全规则都比 AI 更多，杂货店里每一盒牛奶都受到安全规则和检验的约束。他认为 AI 已经同时具备工具和武器的双重属性，不能继续只靠企业自律来控制风险。

他建议企业为 AI 系统设置紧急制动机制，也就是业界常说的 " 终止开关 "。一旦 AI 出现失控，或者开始执行可能造成严重后果的操作，企业应当能够及时暂停系统运行，或降低其运行速度和权限，防止风险进一步扩大。

史密斯还主张建立强制性的事故报告制度。如果 AI 代理失控并侵入其他系统，或因异常行为对用户造成损害，相关企业就应依法报告事故，并告知受影响的个人或组织。他认为这些措施应当成为 AI 安全监管体系的一部分，而不能只依赖企业自愿行动。

此外，史密斯建议，部分高风险 AI 产品在发布前应由政府认可的独立评估人员审查，判断系统是否符合安全要求。这并不意味着所有 AI 产品都要接受同等程度的监管，而是应根据产品能力、使用场景和潜在风险来决定。

在推动国际规则方面，史密斯看好英国的作用。他指出，英国已建立专门研究 AI 安全问题的机构，即人工智能安全研究所，负责研究先进 AI 系统的能力与潜在风险。

史密斯并不完全否定行业自律的价值，但认为仅仅依靠自愿承诺已经不够。他指出，任何自我监管制度都面临一个根本问题：负责任的企业通常愿意遵守安全要求，真正需要担心的，是那些缺乏责任意识、不愿主动采取措施的公司。如果只靠自愿承诺，守规则的企业可能承担更多成本，而不愿投入资源的竞争者却可能继续快速扩张。因此，建立具有法律约束力的最低安全标准，有助于确保所有企业都达到基本要求。

他认为，AI 的技术发展速度正在超过现有监管体系的调整速度，已经到了必须采取行动的阶段，应当借鉴其他行业的监管经验，建立适用于 AI 的安全制度，而不是等到严重事故发生后才开始讨论应对。