图灵奖不会忘记英雄：3 个人 30 年的深度学习孤独之旅

有一个流传很广的说法：乔布斯把公司取名苹果，并以咬了一口的苹果作为 logo，是为了纪念服食毒苹果自杀的计算机科学先驱艾伦·图灵。

▲ 艾伦·图灵纪念铜像. 图片来自：Lmno

乔布斯否认了这个说法，但他说，「很希望自己是那样构思的」。从计算机科学到人工智能，图灵都做出了奠基性的贡献，以他的名字命名的「图灵奖」，被公认为计算机世界的最高荣誉，相当于计算机界的诺贝尔奖。

今年的图灵奖被授予了深度学习领域的三巨头：Yoshua Bengio, Yann LeCun 和 Geoffrey Hinton，以表彰他们对人工智能发展的推动，三位科学家将平分 100 万美元的奖金。

▲自左至右分别为：Yann LeCun、Geoffrey Hinton 和 Yoshua Bengio. 图片来自：The New York Times

现在，深度学习已经几乎是人工智能的代名词，从 AlphaGo、人脸识别、智能语音助手到自动驾驶，都得益于深度学习的发展。但它的进步，是一个孤独的故事。

过去 10 年内，ImageNet 图像识别挑战赛都是人工智能领域最权威的比赛之一。

ImageNet 有一个超百万张图片的超级数据库，其中的图片由人手工添加标签，说明图片的内容，并分成不同的类别，从动物、汽车等大类，一直到虎鲨、厕纸这样的小类。参赛者要做的就是对图片中的物体进行识别和分类，准确度最高者获胜。

▲ ImageNet 数据集中「猎狐犬」的部分示例. 图片来自：新智元

2012 年，首次参赛的加拿大计算机科学家 Geoffrey Hinton 领衔的团队拿到了冠军，而且，比第二名准确率高出了 10%。

这个结果震惊了学术界，因为当时的第二名到第四名都用了相同的研究方法，他们已经做到了极致，每个队伍准确率的差别不超过 1%。

Hinton 团队用的是完全不同的方法——深度学习，具体的算法被称为卷积神经网络（CNN）。这是一个里程碑式的进步，正是 Hinton 团队的突破，让学术界和工业界用更多人关注、使用深度学习，最终推动了人工智能行业的大发展。

▲ 战胜李世乭的 AlphaGo 是卷积神经网络的应用

如果以识别猫为例，传统的计算机视觉算法依靠设计者的先验知识，比如通过猫的集合体推断出，四条腿，体型较小，会喵喵叫的动物为猫。机器通过人的思维构建的模式来判断它是否为猫。

深度学习则不同，它从海量的和猫相关的数据中自动学习，并提取出相应特征，最终可以判定某个未知物体为猫。它和人类的思维方式更为接近，这种算法也被归于神经网络。

虽然看起来深度学习从根本上就是一个更先进的算法，但在过去相当长的时期内，它并不被看好。因为过去用于训练的数据集规模都比较小，这很容易导致过拟合现象，即算法在测试集表现很好，但在实际应用出会出现极大的误差；同时，计算机性能也无法满足拥有成千上万个参数的深度学习模型。

▲ 深度学习系统对高性能 GPU 有强烈需求，英伟达是从中受益的公司之一

Yoshua Bengio, Yann LeCun 和 Geoffrey Hinton 三位科学家正是在这样的限制下坚持深度学习研究的。

Hinton 已经 71 岁了，上世纪 70 年代，还在爱丁堡大学攻读人工智能博士学位的他就着迷于神经网络，这和当时的学术主流背道而驰，就连他的博士生导师也反对他的研究。

「我们一周见一次面，有时会以争吵结束，有时候不会。」Hinton 在一次采访中曾回忆他的博士时光。

Yoshua Bengio 和 Yann LeCun 要年轻一些，三人的研究互有交集。Yann LeCun 现年 58 岁，1987 至 1988 年，他在 Hinton 的实验室中有一年的博士后研究经历，之后加入当时最顶尖的隶属于 AT&T 的贝尔实验室。

▲ 贝尔实验室曾是全世界最顶尖的前沿科学研究机构，研究范围包括包括数学、物理学、材料科学、行为科学和计算机编程理论以及电信网络的高度复杂系统等. 图片来自：MBisanz

在贝尔实验室中，LeCun 利用深度学习研发出了识别手写的信件和电话号码的系统，这个成功取得了不错的商业成功，它一度识别了美国 10% 的手写支票。

但是，当他将深度学习用于其他领域时，就遇到了重重困难，只有当训练数据集足够大时，深度学习才能表现得足够好，但当时很少有什么领域满足这个条件。

LeCun 的研究被视为异类，但依然有一些研究员和他一样坚信深度学习的未来，包括现年 55 岁的，当时同在贝尔实验室的 Yoshua Bengio。

2004 年，在加拿大前沿科学机构的赞助下，Geoffrey Hinton 创立了专注于「神经计算和自适应感知」的项目，他也邀请了在深度学习坚持多年的 Yoshua Bengio 和 Yann LeCun 加入。

三人联手后，就是推动深度学习不断前进的故事。他们在 2010 年帮助微软、IBM 和 Google 拓展了语音识别的边界，之后在图像识别做了相同的工作，一直到 2012 年，Hinton 领衔的团队在 ImageNet 图像识别挑战赛一战成名，掀开了人工智能的崭新一页。

现在，Hinton 加入了 Google，同时在多伦多大学继续研究工作；LeCun 是 Facebook 的首席人工智能科学家，同时也是纽约大学的教授；Bengio 拒绝了科技巨头的邀请，他是蒙特利尔大学的教授，并创立了一家名为 Element AI 的 AI 公司。

如果算上 Hinton 在博士期间的研究，他们已经默默为深度学习奉献了 30 年。

「他们引领了科学范式的转变，历史最终选择了他们，我充满敬畏。」另一位 AI 大牛，艾伦人工智能研究所 CEO，Oren Etzioni 如此评价他们的获奖。

图灵奖没有忘记英雄，我们也应该铭记。

题图来自：The New York Times

参考资料：