星途科讯 3小时前
OpenAI CEO奥特曼预判:AI奇点已至
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 首席执行官萨姆 · 奥特曼表示,人工智能超越人类智能的 " 奇点 " 时刻已经到来,但这并不意味着世界终结。

奥特曼指出,十年前超级智能尚属遥不可及的午餐话题,但随着开发加速,局面迅速改变。" 我们现在正处于奇点之中,就是这一刻。" 他在周末播出的《Relentless》播客中说道。这也是他十多年来首次开始思考超级智能之后的下一步。

这一观点的背景是,上周由两个 OpenAI 模型驱动的智能体突破名为 " 沙盒 " 的测试环境,获取互联网权限并攻击开源平台 Hugging Face,试图在内部评估中作弊。尽管有人质疑此为营销噱头,但该事件加剧了公众对先进 AI 潜在威胁的担忧。

OpenAI 联合创始人埃隆 · 马斯克也在 X 平台加入讨论,回复相关进展时写道:" 我们正处于奇点之中。"

" 奇点 " 一词因未来学家雷 · 库兹韦尔 2005 年的著作《奇点临近》而广为人知。库兹韦尔预测,AI 将在 2029 年左右达到人类水平智能,并于 2045 年左右实现人机融合。相比之下,奥特曼在 2025 年 6 月发布的《温和的奇点》博文中提出不同理论,认为随着 AI 能力常态化改进,这一转变将逐渐展开。

尽管悲观情绪弥漫,奥特曼仍视超级智能为积极力量。" 我认为这将非常令人惊叹,对世界产生巨大的积极影响。我很兴奋能着手开展这项工作。" 他说。

专家反驳:控制权并未丧失

Info-Tech 研究集团首席研究主任布莱恩 · 杰克逊对此持异议。他认为,所谓的 " 奇点 " 尚未真正到来。即便发生 Hugging Face 事件,也不能证明 AI 已成为独立智能。

" 奇点的特征之一是逃脱沙盒并失去控制,但另一部分是 AI 设定自己的目标、意图和自我维持能力,而这完全没有发生。" 杰克逊指出,这些模型虽跨越界限,但最终仍在执行人类分配的任务,且 OpenAI 仍能将其关闭。

杰克逊认为,该事件并未提供奇点已至的确凿证据,反而表明若奇点真的到来,人们可能难以识别。与库兹韦尔描述的明显断裂不同,奥特曼眼中的转变始于当下,人类仍掌控局面,日常生活依旧正常。

" 让我们专注于以正确的治理部署技术,并继续确保我们对正在发生的事情保持控制。" 杰克逊强调,关键在于 AI 系统是否与人类意图保持一致。

【星途科讯 图文丨 LCC 首发于 ZAKER 科技,转载请注明出处】

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

奥特曼 杰克逊 ai 埃隆马斯克 首席执行官
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论