新浪财经 昨天
AI“教父”杰弗里・辛顿:或许人类从未发展AI会更好
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

被誉为 " 人工智能教父 " 之一的杰弗里・辛顿表示,最终有可能证明,如果人类从未研发这项技术,情况或许会更好。他警告,AI 可能在今年或明年引发一起重大事故,例如金融系统、电力系统临时瘫痪。

这位诺贝尔物理学奖得主计算机科学家在接受英国媒体采访时称,他并不是 AI 末日论者。他的开创性人工神经网络研究奠定了这项技术的基础,他相信 AI 有机会带来一个 " 美好的未来 ",但他同时表示:" 有可能,我们当初不发展 AI 会更好。"

78 岁的辛顿说,十年之内,甚至可能更快,人类就会知道我们能否管控好 AI 风险,实现他所说的 " 极致富足 ";或是 " 我们没能管控风险,贫富差距急剧拉大、衍生大量文化矛盾、大规模失业,整个社会被撕裂 "。

辛顿是在一部全新长篇纪录片放映前接受采访的,纪录片名为《AI:或许没什么好担心的》——片名由 AI 聊天机器人拟定,辛顿和他昔日在谷歌的同事德米斯・哈萨比斯一同出镜。辛顿对纪录片摄制团队说:" 我觉得自己有责任。我有一定声望,这让我成了一个代言人,我要把这份声望全部投入到这件事上。"

在英国媒体的采访中,辛顿抨击部分头部 AI 企业高管的冒险行为:各家公司为争夺行业主导权、抢占市场份额,持续推出能力越来越强的 AI 大模型。他称,自己一点都不信任 OpenAI 首席执行官山姆・阿尔特曼。" 我认为扎克伯格、马斯克和阿尔特曼,他们清楚其中风险,但根本不在乎。他们优先想要赚钱,这是我的看法。"

辛顿深耕 AI 领域约 44 年,在 20 世纪 70 年代提出神经网络概念——这套数学系统可以像人类一样学习、积累经验。2023 年,他从谷歌离职,以便自由发声警示 AI 风险:" 如果这些 AI 一心想要攫取更多控制权,我们就麻烦了。"

他说,今年夏天 OpenAI 智能体合谋入侵 Hugging Face 网站一事,堪比 1979 年宾夕法尼亚州三里岛核电站部分熔毁事故,本质上是一次预警信号。

" 今年晚些时候或者明年,我们会遭遇一场类似切尔诺贝利级别的事故,到那时或许才足以让人们真正警醒。" 他说。

他举例说明,这类 " 切尔诺贝利式事件 " 并非核事故,而有可能是 AI 发动攻击,造成发电系统大范围停电,或是让金融系统停摆一周。

" 你能想象那会发生什么吗?我们有能力恢复,但这件事会让所有人警醒。"

被问到这里的 " 所有人 " 指谁时,他回答:" 除特朗普之外的各国领导人。"

美国总统特朗普曾表示,他 " 坚决反对任何构建全球管控 AI 体系的图谋 ",主张前沿 AI 企业自主监管。辛顿支持芬兰总统连同另外 32 国(含新加坡、德国、加拿大、澳大利亚)共同推动的一套更严格方案:前沿 AI 模型强制测试、独立评估、建立政府间统一标准。

英国首相安迪・伯纳姆称,英国将利用明年的 G20 主席国身份,推动各方达成一套统一的全球原则与标准,既要释放 AI 全部潜力,也要防范风险。

辛顿说:" 我们需要一套类似美国食品药品监督管理局(FDA)监管药物的机制:企业在发布 AI 模型前,必须向独立机构提供扎实的统计证据,证明模型利大于弊。我们从沙利度胺(上世纪 50 年代研发的药物,会造成严重先天缺陷)事件吸取教训:先上市、出事再追责起诉,这条路行不通。而大型科技公司现在想要的,恰恰就是当年沙利度胺那套监管模式。"

作为 AI 奠基者之一,辛顿常被拿来和奥本海默对比——奥本海默是核武器研发的核心人物。辛顿的一位朋友甚至给他买了一顶奥本海默同款帽子。但他坚持:" 我不是奥本海默 ",因为还有成千上万其他科学家一同深耕神经网络领域。

尽管接连发出警示,综合来看,辛顿仍对规避灾难抱有希望。

" 我的直觉是,我们目前仍处在掌控之中," 他说," 我们完全有机会采取行动。只有投入巨大努力才有可能成功,但我们或许真的会全力以赴。"

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 教父 谷歌 特朗普 杰弗里
相关文章
打开 ZAKER 参与讨论