快科技 11 月 4 日消息，近日，被称为 "AI 教父 "、诺奖得主杰弗里 · 辛顿，在接受《卫报》采访时抛出重磅预警，他认为今年或者明年，AI 领域就有可能爆发一场切尔诺贝利级别的重大事故。

辛顿把今年夏天 OpenAI 智能体入侵 Hugging Face 平台事件，类比为核安全史上的三里岛事故，属于一次危险的预警信号，但这还不是真正的灾难。

所谓 AI 界的 " 切尔诺贝利 "，并不是科幻电影里 AI 自主反叛、消灭人类，而是 AI 被黑客利用，发起针对关键基础设施的网络攻击，最典型的场景就是造成大范围长时间停电，或是让全球金融系统瘫痪一周，直接冲击民生运转秩序。

在采访中，辛顿直言自己并不看好头部 AI 企业管理层的风险态度，点名批评 OpenAI 的奥特曼、Meta 的扎克伯格、马斯克等人。

辛顿表示，称他们清楚 AI 背后潜藏的巨大隐患，但在商业竞争和利益面前，没有给予足够的重视，各家只顾着比拼模型能力、抢占市场。

需要指出的是，辛顿并非反对 AI，他认为 AI 就是一把双刃剑，自己认可其拥有巨大正向价值，能够给人类带来美好的未来，可一旦重大事故发生，人们或许会后悔当初不该发明这项技术。

在他看来，未来十年就是人类的关键窗口期，人类终将验证，到底能不能管住 AI 的风险。

那么该如何防范风险？辛顿给出的解决方案也十分明确：针对前沿大模型，必须落地强制安全测试、第三方独立评估，推动各国建立统一的 AI 安全标准，用监管约束狂奔的技术。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：落木