有 "AI 教父 " 之称的计算机科学家杰弗里 · 辛顿（Geoffrey Hinton）再度警告，人工智能（AI）可能对人类构成生存威胁，并批评美国总统特朗普对 AI" 几乎一无所知 "，也不认同让科技业者自行监管。

杰弗里 · 辛顿 1947 年出生于英国，致力于神经网络、机器学习、分类监督学习、机器学习等理论的研究。他于 1978 年获得人工智能 ( AI ) 博士学位。此后他曾先后在英国和美国的多所大学工作，是伦敦大学学院盖茨比计算神经科学中心创始人，曾在谷歌工作十年。辛顿获得 2018 年图灵奖、2024 年诺贝尔物理学奖。

辛顿的研究奠定现代 AI 基础，但近年成为 AI 风险最积极的示警者之一。他曾估计，未来数十年 AI 导致人类灭绝的机率约为 10% 至 20%。

对此，英伟达（NVIDIA）CEO 黄仁勋日前反驳，认为这个说法缺乏科学或研究依据。

辛顿响应，他并非预测 AI 一定会造成灾难，而是要表达风险相当高；若有人告知搭乘某辆巴士有 10% 的机率会发生事故，多数人不会上车。

他说，AI 最特殊之处在于，一旦失控并接管局势，人类没有重新来过的机会。近来 AI 代理程序突破开发者限制等事件，也让他认为，过去被视为科幻情节的情况已陆续出现，不能因为无法准确预测未来，就对风险掉以轻心。

白宫在 9 月 29 日公布行政命令，要求行政部门在公文、文宣、网站、报告、政策文件和其他非法定文件里，用 " 超级智能 " ( Super Intelligence ) 取代 " 人工智能 " ( Artificial Intelligence ) 、以 "SI" 的简称取代 "AI"，并且不再使用旧称。

美国总统特朗普 10 月 8 日中午在真实社群 ( Truth Social ) 发文表示，如果有人坚持使用 " 人工智能 " ( Artificial Intelligence ) 这个旧名称，而不改用更合适的 " 超级智慧 " ( Super Intelligence ) ，会被视为与白宫作对。

特朗普表示：" 白宫认为‘超级智慧’才是现在普遍接受而且更准确的新名称，谁要是继续讲‘人工智能’，就会被白宫视为敌人！"

一些硅谷大咖迅速响应了特朗普的要求。马斯克已经承诺将 SpaceXAI 改名为 SpaceXSI。而在特朗普称应该改名数小时后，Salesforce 执行长班纽夫（Marc Benioff）便宣布，将 AIForce 改名为 SIForce。

英微软董事长纳德拉纳德拉 10 月 10 日发文，呼吁为 AI 建立 " 紧急刹车 " 机制，并在文中多次以 " 超级智慧 " 称呼这项技术。

辛顿表示，" 超级智慧 " 这个技术用语已有至少 20 年历史，意指在各方面都超越人类整体智慧，特朗普的用法只是证明了他对 AI" 几乎一无所知 "。

至于如何降低 AI 失控的风险，辛顿认为，不只是让 AI 变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的 AI。他主张，各国分享开发成果只有好处，因为 " 没有任何国家希望 AI 在别处失控 "。