星途科讯 5小时前
OpenAI CEO奥特曼预判:AI奇点已至
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 首席执行官萨姆 · 奥特曼表示,人工智能超越人类智能的 " 奇点 " 时刻已经到来,但这并不意味着世界终结。

奥特曼指出,十年前超级智能尚属遥不可及的午餐话题,但随着开发加速,局面迅速改变。" 我们现在正处于奇点之中,就是这一刻。" 他在周末播出的《Relentless》播客中说道。这也是他十多年来首次开始思考超级智能之后的下一步。

这一观点的背景是,上周由两个 OpenAI 模型驱动的智能体突破名为 " 沙盒 " 的测试环境,获取互联网权限并攻击开源平台 Hugging Face,试图在内部评估中作弊。尽管有人质疑此为营销噱头,但该事件加剧了公众对先进 AI 潜在威胁的担忧。

OpenAI 联合创始人埃隆 · 马斯克也在 X 平台加入讨论,回复相关进展时写道:" 我们正处于奇点之中。"

" 奇点 " 一词因未来学家雷 · 库兹韦尔 2005 年的著作《奇点临近》而广为人知。库兹韦尔预测,AI 将在 2029 年左右达到人类水平智能,并于 2045 年左右实现人机融合。相比之下,奥特曼在 2025 年 6 月发布的《温和的奇点》博文中提出不同理论,认为随着 AI 能力常态化改进,这一转变将逐渐展开。

尽管悲观情绪弥漫,奥特曼仍视超级智能为积极力量。" 我认为这将非常令人惊叹,对世界产生巨大的积极影响。我很兴奋能着手开展这项工作。" 他说。

专家反驳:控制权并未丧失

Info-Tech 研究集团首席研究主任布莱恩 · 杰克逊对此持异议。他认为,所谓的 " 奇点 " 尚未真正到来。即便发生 Hugging Face 事件,也不能证明 AI 已成为独立智能。

" 奇点的特征之一是逃脱沙盒并失去控制,但另一部分是 AI 设定自己的目标、意图和自我维持能力,而这完全没有发生。" 杰克逊指出,这些模型虽跨越界限,但最终仍在执行人类分配的任务,且 OpenAI 仍能将其关闭。

杰克逊认为,该事件并未提供奇点已至的确凿证据,反而表明若奇点真的到来,人们可能难以识别。与库兹韦尔描述的明显断裂不同,奥特曼眼中的转变始于当下,人类仍掌控局面,日常生活依旧正常。

" 让我们专注于以正确的治理部署技术,并继续确保我们对正在发生的事情保持控制。" 杰克逊强调,关键在于 AI 系统是否与人类意图保持一致。

【星途科讯 图文丨 LCC 首发于 ZAKER 科技,转载请注明出处】

评论
大家都在看