财联社 7 月 7 日讯（编辑 潇湘）联合国秘书长古特雷斯周一发出呼吁，全世界应禁用 " 杀手机器人 "。

古特雷斯当天在联合国第一届全球人工智能治理对话会议上表示，应通过国际法禁止致命自主武器，这重新引发了一场关于 AI 安全的争议——该争议正是今年早些时候 Anthropic 公司与五角大楼产生分歧的核心所在。

" 机器在没有人类控制和判断的情况下，自行选择并锁定目标，夺走生命——这在道德上令人反感，" 古特雷斯在瑞士日内瓦发表的演讲中说道。" 让我们直呼其名：杀手机器人 ( killer robots ) 。"

古特雷斯在联合国第一届全球人工智能治理对话的开幕式中还表示，随着 AI 持续飞速发展，目前全世界正进行一场 " 没有计划、也未经同意 " 的实验，而这种情况不能继续下去。

古特雷斯强调，制定 AI 安全法规已刻不容缓。

" 我们不应等到暴行发生才采取行动，" 他说，" 有些决定必须永远留给人类来做，而其中最重大的，莫过于剥夺另一个人的生命。"

近年来，原本设计用于民用的 AI 系统和芯片，正越来越多地被部署在战场和军事指挥部中。这引发了一场关于军队何时应使用 AI、人类何时应介入以及由谁来决定划定界限的争论。

今年年初，当 Anthropic 公司要求五角大楼保证其 AI 模型不会被用于国内监控或自主武器系统时，这场争论被彻底公开化了。当时作为 Anthropic 工具 " 重度用户 " 的五角大楼拒绝了这一要求，称应允许其将 Anthropic 的人工智能用于所有合法目的。双方目前仍在美国法庭上争执不休。

与此同时，在战场上，技术进步正日新月异。AI 武器的支持者和国防企业认为，自主武器仍将处于人类控制之下，AI 将使人类指挥官能够以更高且必要的精度和速度开展行动。反对者则指出，AI 系统会犯错，因此在战况紧要关头将控制权交给机器是极其危险的。

一些人工智能安全活动家——其中许多人早已担心人工智能系统会脱离人类控制并反噬其创造者——认为，让 AI 武装起来只会加剧这种危险。

古特雷斯周一还警告了 AI 的另一种风险——即 AI 权力集中于少数企业、少数国家之手；而其他大多数国家对于那些将左右他们未来的相关决策，迄今仍全无话语权。

据悉，这场为期两天的活动将吸引来自全球各国政府、科技业、学术界等的 4000 多名代表，以包容态度进行讨论，并探索如何善用这项已经迅速改变世界的 AI 技术。联合国计划于明年发布更加全面的评估报告，并将在纽约举行第二届全球 AI 治理会议。