新浪财经 昨天
OpenAI董事:一年内发生AI灾难具备合理可能性
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

知名 AI 安全研究者、OpenAI 控股实体董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客采访中,对人工智能的发展前景发出警示。他表示,未来人类完全失去对 AI 控制权的可能性正快速上升。

这档播客节目于周一播出,主持人是德瓦克什・帕特尔。克里斯蒂亚诺在节目中称:" 目前存在合理可能性,未来六个月就可能发生一场灾难,造成大量人员死亡,或是出现政府被颠覆的局面。" 该播客节目通常拥有数百万听众,科技行业众多从业者均在受众之列。

克里斯蒂亚诺表示,上述事件是否发生,取决于 AI 技术迭代的速度。他还提出,受递归自我改进技术驱动,AI 模型可以实现自我迭代升级,未来一年内发展到危险临界点的概率 " 相当高 "。

此番表态,相较于克里斯蒂亚诺过往公开言论,警告意味进一步升级。他同时执掌总部位于伯克利的非营利机构对齐研究中心,专注于 AI 对齐研究。作为长期警示 AI 安全风险的资深研究员,他于 9 月加入 OpenAI 基金会董事会,该基金会掌握 OpenAI 公司的控制权。克里斯蒂亚诺在采访中着重强调,发言仅代表个人立场,并不代表 OpenAI 董事会观点。

在刚加入董事会时,克里斯蒂亚诺曾发布公开文章估算,未来一年因人类失去 AI 控制权而引发灾难性事件的风险约为 4%。

而在周一的采访中,他表示过去数月模型能力进展迅猛,如今评估,未来一年发生 AI 接管人类局面的风险 " 更接近 10%,而不是 1%"。他称,如果各大企业不采取更多防护措施以缓释 AI 开发带来的风险,该风险预估数值还将 " 显著走高 "。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
打开 ZAKER 参与讨论