被誉为 " 人工智能教父 " 之一的杰弗里・辛顿表示,最终有可能证明,如果人类从未研发这项技术,情况或许会更好。他警告,AI 可能在今年或明年引发一起重大事故,例如金融系统、电力系统临时瘫痪。

这位诺贝尔物理学奖得主计算机科学家在接受英国媒体采访时称,他并不是 AI 末日论者。他的开创性人工神经网络研究奠定了这项技术的基础,他相信 AI 有机会带来一个 " 美好的未来 ",但他同时表示:" 有可能,我们当初不发展 AI 会更好。"
78 岁的辛顿说,十年之内,甚至可能更快,人类就会知道我们能否管控好 AI 风险,实现他所说的 " 极致富足 ";或是 " 我们没能管控风险,贫富差距急剧拉大、衍生大量文化矛盾、大规模失业,整个社会被撕裂 "。
辛顿是在一部全新长篇纪录片放映前接受采访的,纪录片名为《AI:或许没什么好担心的》——片名由 AI 聊天机器人拟定,辛顿和他昔日在谷歌的同事德米斯・哈萨比斯一同出镜。辛顿对纪录片摄制团队说:" 我觉得自己有责任。我有一定声望,这让我成了一个代言人,我要把这份声望全部投入到这件事上。"
在英国媒体的采访中,辛顿抨击部分头部 AI 企业高管的冒险行为:各家公司为争夺行业主导权、抢占市场份额,持续推出能力越来越强的 AI 大模型。他称,自己一点都不信任 OpenAI 首席执行官山姆・阿尔特曼。" 我认为扎克伯格、马斯克和阿尔特曼,他们清楚其中风险,但根本不在乎。他们优先想要赚钱,这是我的看法。"
辛顿深耕 AI 领域约 44 年,在 20 世纪 70 年代提出神经网络概念——这套数学系统可以像人类一样学习、积累经验。2023 年,他从谷歌离职,以便自由发声警示 AI 风险:" 如果这些 AI 一心想要攫取更多控制权,我们就麻烦了。"
他说,今年夏天 OpenAI 智能体合谋入侵 Hugging Face 网站一事,堪比 1979 年宾夕法尼亚州三里岛核电站部分熔毁事故,本质上是一次预警信号。
" 今年晚些时候或者明年,我们会遭遇一场类似切尔诺贝利级别的事故,到那时或许才足以让人们真正警醒。" 他说。
他举例说明,这类 " 切尔诺贝利式事件 " 并非核事故,而有可能是 AI 发动攻击,造成发电系统大范围停电,或是让金融系统停摆一周。
" 你能想象那会发生什么吗?我们有能力恢复,但这件事会让所有人警醒。"
被问到这里的 " 所有人 " 指谁时,他回答:" 除特朗普之外的各国领导人。"
美国总统特朗普曾表示,他 " 坚决反对任何构建全球管控 AI 体系的图谋 ",主张前沿 AI 企业自主监管。辛顿支持芬兰总统连同另外 32 国(含新加坡、德国、加拿大、澳大利亚)共同推动的一套更严格方案:前沿 AI 模型强制测试、独立评估、建立政府间统一标准。
英国首相安迪・伯纳姆称,英国将利用明年的 G20 主席国身份,推动各方达成一套统一的全球原则与标准,既要释放 AI 全部潜力,也要防范风险。
辛顿说:" 我们需要一套类似美国食品药品监督管理局(FDA)监管药物的机制:企业在发布 AI 模型前,必须向独立机构提供扎实的统计证据,证明模型利大于弊。我们从沙利度胺(上世纪 50 年代研发的药物,会造成严重先天缺陷)事件吸取教训:先上市、出事再追责起诉,这条路行不通。而大型科技公司现在想要的,恰恰就是当年沙利度胺那套监管模式。"
作为 AI 奠基者之一,辛顿常被拿来和奥本海默对比——奥本海默是核武器研发的核心人物。辛顿的一位朋友甚至给他买了一顶奥本海默同款帽子。但他坚持:" 我不是奥本海默 ",因为还有成千上万其他科学家一同深耕神经网络领域。
尽管接连发出警示,综合来看,辛顿仍对规避灾难抱有希望。
" 我的直觉是,我们目前仍处在掌控之中," 他说," 我们完全有机会采取行动。只有投入巨大努力才有可能成功,但我们或许真的会全力以赴。"

