动点科技 前天
杰弗里·辛顿:AI 如养虎为患,必须确保其不会反噬人类
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

在 2025 世界人工智能大会(WAIC)上,加拿大计算机学家和心理学家、多伦多大学教授、2024 年诺贝尔奖得主、2018 年图灵奖获得者杰弗里 · 辛顿(Geoffrey Hinton)出席大会并发表主题演讲。

在大会上,他提出了一个深刻但引人警醒的比喻:当前人类对待人工智能的方式,就如同把一只幼虎当作宠物饲养:" 如果你把它养大,必须确保它不会把你给‘杀掉’ "。

辛顿回顾了人工智能发展以来的两大范式:一种强调逻辑推理与符号操作,另一种基于神经网络与生物结构。他指出,未来 AI 程序可能因具有更多控制欲望而试图掌握人类。因此," 简单关闭 AI 并不现实 " ——与其抗拒它,不如把它 " 训练 " 得合宜,确保它不会伤害人类。

他强调:" 人类知识的传递方式效率有限,而数字计算在能源低廉的情况下具备巨大发展潜力。" 软件的存在比物理硬件更可长久保存与传播,这使得围绕 AI 构建安全机制尤为重要。

针对全球应对 AI 潜在威胁的问题,辛顿呼吁国际社会协同合作。他认为,虽然各国对防范 AI 在网络攻击、操控舆论、致命武器等方面的风险存在利益冲突,但若有国家研发出防止 AI 操纵世界的方法,极有可能愿意将相关成果共享给其他国家。他呼吁建立跨国合作机制,共同把握 AI 安全的 " 红线 "。

辛顿特别指出,AI 在医疗、教育、气候变化等领域有不可替代的价值,而单纯禁用 AI 不现实。他建议:" 各国应自主研发人工智能,并同步共享有关‘确保 AI 良性发展的研究成果’。" 通过集体协作,我们才能真正让 AI 成为人类的助力,而非潜在威胁。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 网络攻击 杰弗里 生物
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论