超越美国？加拿大何以培育出人工智能的新边疆

前两天，加拿大政府推动人工智能发展的财政预算正式出炉，用1.25亿加元来支持人工智能领域的新研究与人才战略。

其中的关键，是资助多伦多新成立的人工智能研究机构 Vector Institute。该机构将募集1.5亿加元，在深度学习“教父”级人物 Geoffrey Hinton 的推动下，帮加拿大扩张其全球人工智能人才摇篮的优势，把人工智能的核心留在多伦多。

按常理，科技领域的焦点应该在硅谷才对。毕竟，美国人造出了原子弹、美国人造出了计算机、美国人登上了月球、美国人把互联网带到全世界……没有人知道加拿大人做出了什么，似乎也没有人有兴趣知道。

但近年来的人工智能热潮似乎改变了这一点，加拿大俨然成为深度学习技术的原爆点，大学的研究机构、科技巨头的研发部门比肩而立……人才、研究成果、业界交流均汇聚于此。

你一定很好奇，只有在笑话中才会“入侵美国”的加拿大，什么时候把人工智能从美国偷走了？这就要回到 Hinton 早年的故事了。

对神经网络的“非主流”坚持

作为数学家布尔的后人，Hinton 的想法很简单，“我就想了解大脑的计算方式。”

高中的时候，一个朋友告诉 Hinton，大脑工作的原理跟全息图是一样的：全息图是把反射光的全部信息记录在整个胶片上，大脑是也把分散记忆存储于整个神经网络，而非某个特定的位置。

Hinton 对此深为着迷，那是他第一次真正意识到大脑的工作原理，那是一个关键时刻。

而后，他在剑桥大学和爱丁堡大学继续探索神经网络，分别拿到实验心理学学士与人工智能博士的学位。

刚毕业的 Hinton 正赶上人工智能的第一次低谷，由于异或回路问题和计算能力不足，马文·明斯基激烈批评过神经网络方向的研究。

但 Hinton 却不以为意，懂得心理学的 Hinton 清楚，科学家没能真正理解大脑：他们能解释神经细胞间的信号传递，却解释不了这些神经细胞是如何学习或计算的。Hinton 能领悟到其中的要点，数十亿神经细胞之间的互动活动正是人类智力的生理基础。

1978年，Hinton 来到加州大学圣地亚哥分校读博士后。在那里，他跟发现 DNA 双螺旋结构的弗朗西斯·克里克探讨大脑运作的机制，同认知神经学先驱 David Rumelhart 一起研究反向传播算法，并和约翰·惠勒的学生 Terry Sejnowski 共同发明了玻尔兹曼机。

不过，令人沮丧的是，神经网络当时在大型任务上的表现比不上机器学习领域的其他方法。同时，里根时代的美国，又开始削减人工智能的研发经费，Hinton 的神经网络研究就此被停掉了。

好在这个时候，加拿大高等研究所 CIFAR（Canadian Institute for Advanced Research）向 Hinton 的神经网络研究伸来了橄榄枝，该机构乐于资助有前途的冷门项目。

于是，1987年，Hinton 就前往多伦多大学任教，并继续他的研究。随即，作为 Hinton 的研究助手，Yann LeCun 也来到这里做博士后研究。

神经网络的研究天堂

在 Hinton 的理解中，神经网络本质上就是同时运行在多个计算层面上的软件。通过模仿大脑视觉皮层和语言皮层的机构，Hinton 他们构建了一层层互相连接的人工神经元模型，来处理复杂问题。

这些人工神经网络可以用来收集信息，并对其做出反应。它们能对图像和声音做出解释，它们对语言的理解也在进步。这都是它们自行学习或运转的结果，无需额外的人为提示或控制。

2004年，在 Yann LeCun 和 Yoshua Bengio 的支持下，靠着加拿大高等研究所的少量资金，Hinton 创立了神经计算和自适应感知项目 NCAP（Neural Computation and Adaptive Perception），该项目精挑细选世界一流的计算机科学家、生物学家、电子工程师、神经科学家、物理学家与心理学家，致力于通过跨领域合作来模拟生物智能——至少，是模拟出我们所理解的生物智能，弄清楚大脑如何来理解视觉、听觉与书面的信息及其如何对此作出反应。

NCAP 的研讨会加速了神经网络的研究进展。

2006年，Hinton 和他的研究生 Ruslan Salakhutdinov 提出了一种在前馈神经网络中进行有效训练的算法，深度神经网络开始引起人们的重视，“深度学习”就此起步。

2011年，同为 NCAP 成员的吴恩达创立并领导 Google Brain 项目，该项目在第二年便识能别出 Youtube 视频中的猫。

2012年，Hinton 的另一个研究生 Alex Krizhevsky 赢得 ImageNet 计算机图像识别大赛。这一标志性的胜利为深度学习找到了最合适的硬件计算平台——英伟达的 GPU，人工智能在整个科技行业发展开始加速。

2013年，NCAP 的另一个成员 Terry Sejnowski 开始帮奥巴马打造耗资达1亿美元的推进创新神经技术脑研究行动 BRAIN（Brain Research through Advancing Innovative Neurotechnologies）。

可以说，没有加拿大高等研究所的资助和支持，Hinton 和他的神经网络研究几乎熬不过那个漫长的人工智能寒冬，没有加拿大的庇佑也就不会孕育出这一轮的人工智能爆发。

深度学习如何回馈加拿大科技圈

人工智能的核心——深度学习——基本上是在加拿大研究出来的。多伦多大学机器学习实验室的许多博士生、博士后，还有教授们，现在则成为 Google、Facebook、苹果、OpenAI 等科技巨头的研发主力。

他们离开加拿大，是情非得已。因为要解决世界一流的问题，就需要有大量科学家和工程师可以合作，需要最好的硬件资源，还有最重要的数据资源。人工智能的发展就是在依靠强大的运算能力以及海量的数据，而这样的资源都在美国和其他国家的大公司手里。

加拿大所造就的神经网络研究社区，其相互合作并取得突破的研究团队，是由多伦多大学的 Geoffrey Hinton、蒙特利尔大学的 Yoshua Bengio 以及纽约大学的 Yann LeCun 所领导的。而如何把这世界一流的研究经验和科研文化保存下来，并馈赠给加拿大的科技生态，则成了 Hinton 在 Google “实习”的最好礼物。

为此，Hinton 呼吁加拿大政府这样考虑：

首先，建立世界一流的人工智能研究机构来吸引并培养人才，扩大科技人才的基数，如此次 Hinton 牵头的 Vector Institute。

其次，打造更好的创业环境，包括政策、资金、导师、基础设施各个方面，如 Yoshua Bengio 的 Element AI。

再次，积极推动合适的行业转向人工智能。

在美国移民政策收紧的情况下，加拿大此举确实有助于吸引科技人才前往加拿大发展。而汤森路透、通用汽车也确实在把他们的人工智能部门搬到多伦多并展开大规模招聘，Google 也开始重视它位于加拿大的办公室，这对当地来说无疑是一个好兆头。

当然，即便是有这几位深度学习大师的鼎力相助，我们也不能指望加拿大立刻就能成为下一个硅谷，但这着实是加拿大高等研究所的一大成果。

Hinton 对他研究经验的思考和推广，其实值得我们深思。毕竟，引领这一时代的研究成果，就是这样开花结果的。

“我们想把人工智能和加拿大高等研究所带到一个美妙的新领域，一种尚未有人或程序到达过的新境界。”

这就是 Hinton 的想法。

作者：胡永波
欢迎人工智能领域技术投稿、约稿、给文章纠错，请发送邮件至[email protected]
文章转自AI100，特此感谢。原文：超越美国？加拿大何以培育出人工智能的新边疆

---

【CSDN_AI】热衷分享 扫码关注获得更多业内领先案例