财联社 9 月 11 日讯（编辑 牛占林）本周，围绕 AI 系统安全性的担忧，以及 AI 可能最终将人类 " 赶尽杀绝 " 的风险，再度在社交媒体上引发广泛关注。且 Anthropic 和 OpenAI 多名内部人士相继公开发声，警告了 AI 技术快速发展所带来的风险。对此，美国总统特朗普进行了驳斥，认为首要任务是保持 AI 的领先优势。

当被问及是否担心 AI 可能导致人类灭绝时，特朗普当地时间周四回答称：" 不，我一点也不担心。"

特朗普指出：" 我担心的是，AI 发展不够快，使我们无法赢得这场竞赛，那么将陷入非常不利的境地。"

他还称，目前美国在 AI 领域领先其他对手相当长一段时间，并认为这一领先优势 " 大约是一年左右，而一年已经算是很长的时间了 "。

特朗普发表上述言论之际，OpenAI、Anthropic 等前沿 AI 实验室的多名研究人员近期纷纷发出警告，对 AI 技术发展过快的风险表示担忧。

担忧情绪升温

Anthropic 研究员 Jacob Coxon 周二表示，他将离开公司，因为他担心 Anthropic 和竞争对手 OpenAI 正在拿人类的生命安全冒险。

他还表示，AI 领域的开发者中有人认为，AI 可能在本十年结束前毁灭全人类。此后，其他 AI 实验室员工也表达了类似担忧。

Anthropic 负责 AI 对齐研究的负责人 Evan Hubinger 在社交平台 X 上发文称，他认为，未来十年内 AI 杀死全人类的可能性超过 10%。

AI 安全领域的许多担忧，都集中在 AI 模型是否会具备自我提升能力这一问题上。一种被称为 " 递归式自我改进 " 的技术，正是相关讨论的核心之一。

所谓递归式自我改进，是指 AI 系统本身参与改进开发新模型的过程。随着更先进的 AI 系统不断帮助构建更先进的下一代系统，这一过程可能形成能力不断升级的循环，最终导致 AI 能力呈螺旋式增长。

OpenAI 首席科学家 Jakub Pachocki 指出，他预计 AI 技术进步的速度可能会持续下去，并最终进入递归式自我改进阶段。" 我担心，没有人为机器智能持续快速增长可能带来的后果做好准备。"

与此同时，美国一些共和党议员也已加入民主党阵营，开始支持加强对先进 AI 系统的监管。

今年 7 月，共和党籍加州众议员 Jay Obernolte 和民主党籍马萨诸塞州众议员 Lori Trahan 宣布计划提出一项名为《前沿人工智能研究、部署、监管和安全法案》的法案，旨在建立一套针对先进 AI 模型部署的监管框架。

Trahan 周三在社交平台 X 上发文称："AI 安全研究人员正在辞职，强大的 AI 模型正在突破实验室的控制，而企业却仍在竞相推进。国会早已不能再袖手旁观，现在是时候履行自己的职责了。"