今年的诺贝尔化学奖和物理学奖,颁给了两个做人工智能的人物:一位是 DeepMind 创始人 Demis Hassabis,另一位还是 AI 教父 Geoffrey Hinton。
比得奖更有意思的,是得奖人背后的故事:当年 DeepMind 还只是个不为人知的小公司时,就胆敢和百度、微软、Google 三巨头,争抢这位教父,尽管结果肯定是争不过。
我们翻遍各大媒体报道和硅谷史记,找到了更多跟 Hinton 有趣的冷知识——不得不说,这个人物,可比物理有意思多了。
不算是真 · 物理学家
这一点现在已经人尽皆知了 本次物理学奖之一 John Hopfield 确实是物理学出身——虽然他现在在普林斯顿,是分子生物学教授。
而 Geoffery Hinton 则是知名的「人工智能教父」,他在神经网络上的研究,为人工智能奠定了基础。
实际上,两人的研究都跟物理学有所联系。Hopfield 创造了一种联想储存器,可以存储和重建图像以及数据中其它类型模式,这套理论的基础,正是物理学中的自旋系统。
Geoffrey Hinton 发明的玻尔兹曼机,灵感来自于统计物理学,引入了一种用于模式识别的概率模型。在理论上,它的训练算法、动力学原理,都与简单物理过程有所相似。玻尔兹曼机跟 Hopfield 网络紧密相关。
不过,获得物理学这个奖项着实令两人都非常吃惊,Hinton 甚至没有想过自己会被提名。他很高兴诺奖委员会能看到他和 Hopfield 的研究中,物理学所带来的启发。只不过在最近,基于 LLM 的人工智能研究与物理学关联不太多了,所以得奖一事让人非常意外。
曾经的学渣,如今的教父
早年间 Hinton 也尝试过物理学,但直接被里面复杂的数学劝退了。甚至到后来做机器学期的时候,他还是会经常跳过数学演算的部分,直接看论证。
直到指导 Yann LeCun 的论文时,他因为完全不懂法语,只能反过来——跳过论述,只看数学。论文答辩时,Hinton 用英语提问,LeCun 用法语回答,两人居然交流自如。这是基于他们对神经网络共同的信念,LeCun 说,聊天时他感觉 Hinton 正在完成他的句子。
英式冷幽默大师
但凡看过 Hinton 的演讲视频,都会被他的英式冷幽默折服。一位名叫 Aapo Hyv ä rinen 的研究人员,曾经在发表学术论文时在致谢一栏写道:
本文的基础想法是在与 Geoffrey Hinton 的讨论中提出的,但他本人不愿意成为合著者,因为该论文包含了太多数学方程。
离那个叫 Sam Altman 的人远一点
虽然被称为人工智能教父,但是 Hinton 在警示人工智能潜在的危险性上,称得上是不遗余力。今天下午,多伦多大学召开的线上媒体会,他在线上感谢了诺奖组委会,以及一直以来共事导师、同事和学生,并说道,「我对其中一位同学格外自豪,他解雇了 Sam Altman。」
美联社记者追问到为什么对 Sam Altman 有如此评价,他表示,OpenAI 的初衷是开发通用人工智能,并保证它是安全的。但随着时间的推移,Sam Altman 逐渐把利润放在安全之上,「我觉得这很不幸。」
百度离拿下 Hinton 的「皮包公司」,曾经只有一步之遥
Hinton 有两次「创业」的经历。当然,不是严格意义上的创业,更多像是把自己和学生的研究成果,引荐给工业界。
2009 年,他的学生在语音识别上做出了一个很好的模型,于是他们去和当时做手机很红火的黑莓公司接触。经过漫长的沟通,黑莓一位高管说,他们不感兴趣。
后来 ,Google 拿到了这个语音识别模型,打磨成了产品嵌入安卓系统中。「太可惜了,」Hinton 在一场多伦多大学的座谈会上分享这个故事,当时另一位讲座嘉宾是李飞飞,「如果不是这样,我们现在说不定还能看到黑莓呢。」
到了 2012 年,Hinton 和他的学生发表了一篇论文,证明了神经网络强大的价值。率先向 Hinton 抛出橄榄枝的,正是来自中国的百度。
但他的学生提议说,与其去当打工人,不如原地成立一家公司,让巨头来收购。Hinton 想想,有道理,说干就干。没想到成立之后,四家巨头抛出争相拍卖,分别是百度、Google、微软,以及当时尚未崭露头角的 Deepmind。
拍卖全程用邮件进行,百度派了一位 Deepmind 当时的实力尚浅,只能拿公司股票来参与拍卖,所以很快就出局了。而剩下的三位巨头不断抬价,微软在 2000 万退出了一次。2200 万时,由于 Hinton 提出暂停,微软彻底退出。
在后半程的终极竞价里,百度的出价其实是领先的,然而最终 Hinton 还是属意 Google。他在 Google 工作了十年,直到去年退休。
站着,把研究做了
传言他最终没有选择百度,是因为越洋飞机对他而言太难了:Hinton 患有严重的腰椎间盘病,严重到完全不能坐下,否则就会有一块腰椎突出导致剧痛。他在所有的演讲、座谈中,都是站着的,必要时会拿一个软垫跪下来。
2009 年,微软邀请 Hinton 去位于华盛顿远郊的实验访问研究。旅程非常费劲:又不能开车又不能飞,坐车也只能躺在后座。于是他先搭地铁,去到多伦多城中的公交车站,提前排队,然后率先抢到最后一排空座,直接躺下装睡,全程无人打扰。
后来他又搭了三天火车到达西雅图,再躺在出租车后座上横穿华盛顿湖,到达微软。
听说这个旅程如此折腾,微软提前给他定了一张站立式办公桌,保证他可以正常工作。
冷血动物爱好者
Hinton 的父亲是一位著名的昆虫学家,小时候的他就经常跟各种奇奇怪怪的动物打交道,包括但不限于青蛙、乌龟、蜥蜴、蟾蜍。
一直到现在,他也和冷血动物很亲近。他把死掉的蜻蜓保存在橱柜里,在海岛度假时,甚至会把蛇带进屋里,邀请前来采访的记者摸摸看。
祖上都是科学家
Hinton 出生在一个科学世家,最为人所知的是他的曾曾祖父乔治 · 布尔,开发了二元推理系统「布尔代数」,构成了现代计算机的基础。其实,他还有许多祖辈都有惊人的科学成就。
曾祖母 Mary Ellen Boole(后来改姓)是数学家,嫁给了 Charles Howard Hinton,同样是数学家,他提出了四维超正方体,是四维空间的基础理论。表亲 Joan Hinton 是核物理学家,曾经参与曼哈顿计划,后来嫁给了中国对美事务顾问 Erwin Engst 后就定居中国了。他们的孩子之一 Fred Engst 阳和平,目前是北京对外经贸大学的教授。
研究了一下发现他祖辈里还有太多科学家,比如英国皇家化学研究所第一位女性院士、发明便携式 X 光机的内科医生,等等等
成功的秘诀?找一堆天才学生
OpenAI 的前首席科学家、联创之一 Ilya Sutskever 是 Hinton 的学生,在多伦多大学读本科时就决定了自己的方向。他是直接走到 Hinton 的办公室,敲开门问,能不能加入深度学习实验室。Hinton 说,那约个时间聊聊吧。
Sutskever 说,「行啊,现在怎么样?」
Hinton 给了他一些经典论文,一周后,Sutskever 回来了,说「我不理解。」
「你训练一个神经网络来解决一个问题,然后又训练一个新的网络解决另一个问题——你为什么不用一个网络解决所有的问题呢?」
Hinton 意识到,眼前这个二十多岁的年轻人,有着超乎经验的研究直觉,遂邀请他加入自己的实验队伍。
「我一直都是对的」
Hinton 坐了十多年学术界的冷板凳。在他决定把神经网络作为自己的研究目标时,没有人看好这个方向,都觉得做不出名堂。然而,多年后,当神经网络为自己正名后,Hinton 经常在接受采访中被问到,是什么让他选择了一个冷门方向。
他每次都轻描淡写地答到,「我相信我是对的」。
这也是他对年轻人的建议之一,「去找这样一个地方:在那里,你觉得每个人都做错了。然后相信你的直觉,直到你弄清楚为什么你的直觉是错误的。当你觉得每个人的做法都是做的,选择那个不一样的做法。
事实是,要么你有很好的直觉,要么你没有。如果你有好的直觉,应该倾听它们,遵循它们,一直努力,直到你发现它为什么是错的。如果你有糟糕的直觉,那你做什么其实也不重要,那还不如遵循自己的直觉。」