这一次是以《2001 太空漫游》举例，不受节制的 AI 会像影片中失去控制的 HAL（太空飞船 AI 主控系统）：" 你可以说，‘请关闭’，它会说，‘好的，我考虑过了，但我所掌握的情况表明有其它事务比这条命令更重要。’ "

盖茨于当地时间上周六亮相特柳赖德电影节，他与现场听众举行了一场有关 AI 的户外座谈：" 有很多讲外星人入侵的电影，中美两国以前所未有的力度进行合作，这时候大家才意识到事态严重。"

" 但我要告诉你们的是，外星人已经来了，而且它的动机超出人类所能理解的范畴，我们需要出奇制胜才能应对 "，盖茨称。

鉴于人类就是这场入侵事件的始作俑者，盖茨呼吁中美两个大国放慢脚步，或至少将 AI 的智能水平维持在可控范围内：" 这些 AI 通过学习实现进化，这种方式与人类大脑的进化历程相似，但我们并不了解它的想法，也无法控制。Anthropic 自称会用一套道德框架进行约束，但 AI 会综合考虑它接收到的所有内容，其中的权衡机制对人类而言并非完全透明。"

" 大思想家也许能制定出一套最高准则，但目前我们看到的情况是，一旦试图套用某些规则，AI 会变得很蠢，系统性能会下降。"

鉴于 AI 竞赛如火如荼，没有哪一方甘愿自废武功。在盖茨看来，寄希望于各公司进行自我道德约束未免太天真，他希望负责任的大国能出面协商，先解决规则再谈发展。

与此同时，OpenAI 宣布自己搞出了通用 AI，证据之一便是能理解游戏机制，GPT-6 Astra 在 24 小时之内通关 V 社的《传送门》，Token 费用 571.18 美元。

是的，不如初中生，但人类大脑进化到当前水平花了数百万年，GPT-6 只花了多长时间？以当前速度再发展十年，盖茨的警告会应验吗？AI 会派人穿越回来刺杀盖茨吗？

【本文结束】如需转载请务必注明出处：快科技

责任编辑：Zhengogo