每日经济新闻 昨天
25名顶尖数学家炮轰AI巨头“抢成果”!中科院外籍院士杰曼诺夫:长期下去AI会让所有年轻数学家失去工作,完全依赖AI是通向灾难的不归路
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

9 月 11 日,25 名菲尔兹奖获得者发表紧急声明——《人工智能在数学中的严重错位》(A Severe Misalignment of AI in Mathematics),直接向 AI 巨头们 " 开炮 ",批评他们试图利用人工智能(AI)解决数学难题的做法。

声明指出,AI 公司将解决数学难题作为模型能力基准的做法,对数学科学本身及数学界造成了损害,与数学共同体追求概念理解的根本目标产生了显著分歧。

这份声明发表之前,OpenAI 刚宣称其未公开的内部 AI 模型用 88 个小时解决了纳维 - 斯托克斯方程(Navier-Stokes 方程)的存在性与光滑性问题。

声明的 25 位签署人之一埃菲 · 杰曼诺夫(Efim Zelmanov)在接受《每日经济新闻》记者(以下简称 NBD)专访时指出,OpenAI 的做法本质上就是 " 学术掠夺 ",是为 IPO 造势。

杰曼诺夫因解决 20 世纪群论核心难题——限制 Burnside 问题,于 1994 年荣获菲尔兹奖。另外,杰曼诺夫与 Benkart 证明的李代数坐标化定理被认为是处理无穷维李理论的基石。2001 年,杰曼诺夫当选为美国国家科学院院士,2021 年当选为中国科学院外籍院士。

而针对 Anthropic CEO 达里奥 · 阿莫代伊、SpaceX CEO 马斯克、OpenAI CEO 山姆 · 阿尔特曼等 AI 大佬提出的 "AI 减速论 ",杰曼诺夫更是直言," 无非又是博取舆论的宣传话术,迎合一部分公众期待,大概率没有实质意义。"  

埃菲 · 杰曼诺夫 图片来源:中国科学院学部网站

"OpenAI 近期的做法就是‘掠夺’

是为 IPO 造势 "

NBD:声明从起草到发表,只用了几天。是什么特定事件,让您和其他菲尔兹奖得主觉得此时必须站出来发声? 

埃菲 · 杰曼诺夫:人类必须掌握数学的主导权,完全依赖 AI 是一条通向灾难的不归路。数学必须由人类掌握在自己手中。 

AI 公司拥有近乎无限的资金,这意味着他们可以随时部署数万个智能体(Agents)。这些智能体几乎 " 无所不知 ",但问题在于,它们完全是建立在人类数学家已有工作的基础之上的,却没有给予适当的署名或归属,这本质上是侵犯知识产权。

《人工智能在数学中的严重错位》声明

NBD:OpenAI 最近宣称公司一款内部 AI 模型在 Navier-Stokes problem(纳维 - 斯托克斯问题)上取得了进展。您如何看待这一发展?

埃菲 · 杰曼诺夫:这完全是建立在人类数学家近期发现的新思想之上的。 

虽然我没有确凿的证据,但情况很可能是这样的:研究这个问题的人类数学家使用了 OpenAI 的服务,而 OpenAI 的其他智能体有权限访问这些人类的工作轨迹。这就像是两个竞争团队,其中一方在明目张胆地观察另一方在干什么。而且,AI 智能体可以没日没夜地工作,人类却需要休息。

打个比方,一群数学家就像正在冲向终点的骑行选手,一位西班牙数学家对吉尔萨诺夫方程(Girsanov's equation)提出新的思路。AI 则在一旁观察人类的研究,等到人类快要抵达终点,就投入超过 2000 万美元,调动上万个智能体协同作战,并抢先冲线,然后宣称自己第一个完成。

OpenAI 这样的做法简直就像是 " 掠夺者(Predator)"。如果一个人类学者做出这种事,他会在学术界身败名裂、失去所有朋友,因为在某种意义上,这就是纯粹的侵权行为(Piracy)。

NBD:为什么 AI 公司如此热衷于解决著名的数学问题?

埃菲 · 杰曼诺夫:因为这能够带来曝光度,有宣传效果。很多 AI 从业者之前也是数学家,这其中也掺杂了个人利益诉求。他们就是在寻求进展的氛围中成长起来的,攻克知名难题也算是向自己的师长交出一份答卷。

" 数学界的目标是培养下一代数学家

AI 公司则是制造噱头 "

图片来源:每经媒资库

NBD:声明中提到,AI 公司与数学界之间存在严重的 " 错配 "(Misalignment)。这具体指什么?AI 公司与数学界的目标之间最大的分歧是什么? 

埃菲 · 杰曼诺夫:数学界的目标是发展 " 概念性理解(conceptual understanding)",并培养下一代数学家。而 AI 公司的目标是搞噱头,为 IPO 制造宣传效果。两者目标截然不同,我们根本不在乎 AI 公司的宣传,我们在乎的是下一代年轻人,是数学研究的连续性。

过去几百年,数学界形成了一套行之有效的体系:年轻人进入研究生院,资深学者提出一些中等难度的数学问题。年轻人通过攻克这些问题,发表论文,获得工作,这样一步步成长起来。

大多数问题之所以被提出,不仅仅是因为它们本身有趣,更是因为要解决这些问题,我们就必须建立一套完整的基础,推动对这一领域的 " 概念性理解 "。这样既推动了数学发展,又能培养新一代数学家。

但现在呢?要解决一个中等难度的问题,似乎只需要按一下按钮就可以了,这彻底颠覆了整个培养体系,是生存层面的威胁。我们得到的答案可能正确,却绝对无法提供任何概念性的理解,也不能给下一代数学家留下任何启发。

AI 确实非常强大,相比两个月前又进步不少,人类数学家也会使用 AI,我们不可能 " 再把精灵放回瓶子里 "(put the genie back in the bottle)。但我反对 " 敌意式接管 "(hostile takeover)——它们会破坏整个数学研究体系。

NBD:假如 AI 给出了一个正确的证明,它是否还缺失什么? 

埃菲 · 杰曼诺夫:知道一个结论是正确的,与真正理解为什么它是正确的,两者之间非常微妙。

所有数学知识和正确解法,通常都可以追溯到几个伟大的核心思想。所谓 " 概念性理解 ",就是寻找这些思想,因为这才是推动数学发展的关键。 

如果一个证明仅仅是 " 正确 " 的,那又怎样(Then what)?数学的本质就是 " 理解 "。如果缺了这一点,我都不知道在这场人机竞赛中谁才是真正的赢家。

NBD:长此以往,年轻数学家会面临怎样的处境? 

埃菲 · 杰曼诺夫:简单说,AI 会让所有年轻数学家失去工作。我们需要培养具备 " 概念性理解 " 能力、真正理解数学正在发生什么的人类数学家,让他们把数学继续发展下去。 

" ‘ AI 减速论’是另一种形式的宣传

我不认为有人会真的放慢脚步 "

Anthropic CEO 达里奥 · 阿莫代伊 图片来源:视觉中国 -VCG111645486173

NBD:最近,Anthropic CEO 达里奥 · 阿莫代伊、SpaceX CEO 马斯克、OpenAI CEO 山姆 · 阿尔特曼等 AI 大佬都在呼吁放缓前沿 AI 的开发。您如何看待此事? 

埃菲 · 杰曼诺夫:坦白说,我完全不明白他们所谓的 " 减速 " 是什么意思。也许这只是另一种形式的宣传。现在公众对庞大的数据中心有一些抵触情绪,所以他们觉得这些就是部分民众想要听到的话罢了。我们对此根本不应该过度关注。

看看历史就知道,技术发展本身就是不断向前推进的。我不认为有人会真的放慢脚步,这只是一种姿态,不会有任何实质性行动。

数学家最独有的价值就是创造力

" 没有数学,就没有 AI"

NBD:随着 AI 的不断发展,您认为数学家的角色是否会改变,比如更多地验证 AI 成果的工作?

埃菲 · 杰曼诺夫:到目前为止,还没有发生,也没有理由相信这种情况会很快发生。毕竟如我之前所说,AI 目前所做的一切,本质上都建立在人类数学家的工作之上。没有数学,就没有 AI。

数学家们的工作仍然和以前一样,在尝试寻找新的思想,进行自己的研究。我们不应该高估 AI,也不应该把它的作用夸大。到目前为止,它们只是解决了一些中等难度的问题。

NBD:您目前也在南方科技大学担任教授。您认为,在 AI 时代,数学专业学生还应该学些什么? 

埃菲 · 杰曼诺夫:他们依然需要学习基础数学(fundamental mathematics),因为所有的发展都是建立在人类几百年来积累的基础数学和核心思想之上的。 

以现代的密码学和编码理论为例。过去将军们传递密信极其困难,但今天,当你登录电邮、使用信用卡时,几十亿人都在毫不停歇地交换加密信息,且极其安全。这是怎么做到的?因为现代密码学就是建立在 19 世纪初法国天才少年埃瓦里斯特 · 伽罗瓦(É variste Galois)的工作基础之上。 

在长达 150 年的时间里,伽罗瓦的理论在数学领域之外被认为 " 毫无用处 "。但那些在顶尖大学受过良好教育的人在今天将其转化为了现代科技的基石。

NBD:展望未来 10 年,如果 AI 解决了困扰人类数十年的问题,但人类可能无法完全理解其中的一些证明,您会认为这是数学领域的一项重大进步吗? 

埃菲 · 杰曼诺夫:到目前为止,AI 拿出的最复杂的解决方案,仍然是人类做出的。所以我认为你说的那种情况在短期内不会发生。 

但如果有一天,AI 宣称自己解开了某道题,而人类持不同意见,那我宁愿相信人类。我就是坚持以人类为中心的立场——我在乎的是人类,不是 AI 智能体。

NBD:您认为,有什么东西是您最不愿意看到 AI 从数学家手中夺走的? 

埃菲 · 杰曼诺夫:是那种神圣的火花(divine sparkle)——创造力。数学家看待问题的视野广阔,也有对现实应用的考量,还有对数学之美的感知。 

伽罗瓦构建他那套伟大理论的时候,完全没有想到这些理论在 150 年之后会有什么应用,驱动他的是对数学之美的追求。对数学家而言,数学也是一门艺术。我不认为 AI 能在艺术层面超越我们。

当然," 永远别把话说死 "(never say never)。倘若真的有那一天,就不只是数学界的问题,整个人类都将面临严峻处境。

记者| 兰素英

编辑| 程鹏   王嘉琦   杜恒峰

校对 |张锦河

|每日经济新闻   nbdnews   原创文章|

未经许可禁止转载、摘编、复制及镜像等使用

相关标签

ai 数学 院士 ceo 菲尔
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦