NeuroAI作者，冷泉港主任独家专访：忽视神经科学给我们的启示是愚蠢的
神经科学究竟如何启发AI？不同路径如何殊途同归？智源社区采访了NeuroAI白皮书的第一署名作者，来自冷泉港实验室（Cold Spring Harbor Laboratory）的美国神经科学家Anthony Zador，请他分享了在神经科学与AI交叉领域研究的经历和期许。
近日，Yann LeCun、Yoshua Bengio、Matthew Botvinick（DeepMind）、Jeff Hawkins等人工智能和神经科学领域的多位著名学者近日发表 NeuroAI 白皮书-《迈向下一代人工智能：催化神经人工智能革命》。
白皮书指出，「图灵测试」一直被奉为判断机器是否具有人类级别智能的重要指标，而目前的自然语言处理系统在因果推理、常识推理、语义理解方面仍然存在缺陷。科学家们认为，动物的感觉运动能力可能是它们理解世界的基础。
为此，白皮书的作者们提出了「具身图灵测试」，作为 NeuroAI 的终极挑战。能够通过「具身图灵测试」的智能体需要具备与人类和其他动物的交互相比的高级的感觉运动能力。这些高级的感觉运动能力几乎是所有动物所共有的，使动物能够适应新的环境。高级感觉运动能力的特征包括（但不限于）：
（1）与世界交互。有目的地移动，并与环境交互。现有的机器人技术在控制身体和操纵物体方面与动物的能力还相差甚远。神经科学可以提供设计适配人工系统的模块化、层次化架构的指导原则，使系统具备这些能力，也可以启发其它形式的「智能」。
（2）动物行为的灵活性。以个体动物能够产生的行为相对应的方式，参与大量灵活多样的任务。为了在不断变化的世界中成功，智能体必须灵活，并利用事物发展的一般知识掌控新局面。
（3）能源效率。根据大脑灵活的循环架构指导循环电路训练机制的设计，提升系统的能源效率。生物智能系统利用能源的效率远远高于现有的人工智能机器。
总结来讲，白皮书认为，神经科学长期以来一直是推动人工智能（AI）发展的重要驱动力，NeuroAI 领域的基础研究将推动下一代人工智能的进程。而今年10月的一场twitter风波将「AI是否需要神经科学」的争论推至台前，反对者甚至认为，神经科学从来都没推动过人工智能，因为发明Transformers / ADAM的人并没有看过一篇神经科学的论文。对此，白皮书作者之一的Anthony Zador在访谈中给出了更详细的观点，以下为采访全文（智源社区做了不改变原意的编辑）。
Anthony Zador
Anthony Zador，美国神经科学家，冷泉港实验室主任，2015年被《外交政策》杂志评为全球百大思想家。在神经科学与人工智能交叉领域方面，他是 2004 年计算与系统神经科学 (COSYNE) 顶会以及NAISYS（神经科学到人工智能系统）会议的联合创始人。目前，他的实验室主要研究大脑神经回路如何产生复杂行为，包括听觉皮层如何处理声音等。近期他开创了一种连接组映射的分子生物学新方法，显著提升在单细胞水平上映射神经元回路的速度。冷泉港实验室（The Cold Spring Harbor Laboratory，缩写CSHL），有132年历史，为享誉全球的非营利性私人科学研究与教育中心，主要成就为分子生物学领域，共诞生8位诺贝尔奖得主，被誉为世界生命科学圣地、“分子生物学摇篮”，名列世界影响最大的十大研究学院榜首。
采访&整理 李梦佳
校对：熊宇轩
“
NeuroAI革命
Q：关于近期发表的NeuroAI白皮书，这项工作的指导思想是？
A：基本思想是，如果我们看人工智能的历史，它是完全与神经科学的历史交织在一起的。如果你回到现代人工智能的最开端，现代人工智能的第一篇论文，可以说是第一篇神经网络论文，是 McCulloch-Pitts 1943 年的这篇论文，它提出了人工神经元的想法。1946年，冯·诺依曼提出的冯·诺依曼机（所有现代数字计算机的基础）正是受到了这篇论文的启发。1957年提出的感知机（Perceptron）也是生物神经细胞的简单抽象。
回溯人工神经网络的历史。例如，卷积神经网络 CNN 明确地受到 Hubel 和 Wiesel 的启发。20年来，大多数人工智能和人工技术的重大进步，有很多都来自神经科学。这篇工作的核心思想就是希望两方要保持这些联系牢固， 神经科学领域的人，以及人工智能领域的人，在两个学科方面都受过同样训练的人。所以我们要做的就是团结起来，重新团结，重新团结起来。核心思想就是汲取神经科学中的养分，将它们应用到AI当中。
Q：白皮书强调了 NeuroAI 革命。你认为这场革命的最终目标是什么？它通向哪里？
A：人们总是在说AGI，我不喜欢这个术语，因为我不相信智能的通用性，智能应该是非常具体的。每个智能体、每个有机体都有其特定的偏见。这就像没有免费午餐定理，你不可能同时擅长所有事情。我更喜欢AHI（artificial human intelligence）这个词， 人们普遍想象这样一个智力金字塔，底部是蠕虫，或水母，然后再高一点，可能有鱼，最后是老鼠、猴子和黑猩猩，然后是人类。我认为这是完全错误的。我认为，每个不同的有机体都非常擅长解决各自需要解决的问题。所以NeuroAI革命的终极目标应该是AHI。现在缺失的部分（需要解决的部分）不是那些使人类成为独特人类的小部分，而是其他一切。
有一个理论叫做莫拉维克悖论，莫拉维克是一名AI研究员的名字。1988年，他写了一本关于这一概念的书，核心思想是，对人类来说很难的事情对计算机来说往往很容易。对人类来说容易的事情对计算机来说却非常困难。
国际象棋是一项具有挑战的游戏。大多数人都不是很擅长。1997年，计算机在这项技术上打败了人类，IBM的“深蓝”打败了世界国际象棋冠军卡斯帕罗夫。其他游戏也是如此。显然，计算机在计算乘法之类的方面要厉害得多。但如今，人工智能目前的发展轨迹正在让人工智能解决我们认为独特的人类问题，比如语言。大规模语言模型虽然仍然不完美，但是已然相当接近人类的语言能力。但目前我们还没有可以与物理世界交互的人工智能体。比如说，我的梦想是拥有一台可以装洗碗机的洗碗机，可以帮我铺床、洗衣服，因为那样我就不用做那么多的家务了。而我们距离那个目标还非常遥远。
5 年前，人们说人们预测人工智能革命会颠覆经济，例如取代开车的人。我有一辆特斯拉，它还不会自己开呢。开车驾驶涉及与世界互动。所以我最近还在和要上大学的孩子们开玩笑说，如果他们未来想保住自己的饭碗，应该当水管工。因为AI没法很快取代水管工。
Q：如何理解具身图灵测试？
A：「具身图灵测试」其实最开始是别人提出来的，在我们的这篇工作中强化了。标准的图灵测试是指一个人工智能系统可以在对话中愚弄人类，目前我们已经非常接近了。最好的语言模型已经可以骗人，得出的文本甚至比很多人说话都连贯通顺。而具身图灵测试，则是关于测试智能体与世界互动的方式，比如说打网球或骑自行车。
换句话说，一个智能体要能做这个星球上的每只动物毫不费力可以做的事情。所以我想目标是重新思考认知的基础，但要从下到上进行底层的重建。
Q：如您所说，目标是AHI，我们如何才能实现这个目标？换句话说，如何提供切实可行的技术路线图？
A：这是一个开放性的问题。这篇文章的作者列表上有20多个人，都来自不同机构，但我只和他们中的几个有过合作。关于具体如何推进，可能想法各不相同。其实这不像说，有一个列表，上面写好了我们要做1234。
我认为，核心思想就是，为了取得进步，忽视自然、神经科学要教给我们的东西是愚蠢的。打个比方，想象一下，一艘来自外太空的宇宙飞船并降落在地球上，上面有一大堆先进的技术。反重力设备等。于是我们也想建造反重力设备，把它拆开，尽可能多地学习如何建造反重力机器。造AI也是同理，我们四周就遍布着各种让人惊奇的例子，因为遇到的每只动物几乎都是自然、聪明，且能与世界交互的。所以如果不去学习神经科学是愚蠢的。我们已经了解了动物智力的产生，以及神经元和构建模块的知识，只是需要知道以什么样的方式将他们组合在一起。
我们已经完成了一半的逆向工程，已经把这个问题拆解开了。现在需要的是下半场。神经科学的意义在于将它们拆开的时候知道每一部分是什么，而人工智能则侧重于工程，能够以一种有效且有用的方式将它们组合在一起。这才是我们所追求的目标。
Q：在理想状况下，智能机器能像人脑一样稳定、高效吗？
A：我认为，与生物相比，硅基不一定是差一等的基底，甚至可能更好。问题不在于物理基板。问题是我们对生物计算的工作原理了解不够，无法构建复制它的物理系统。这就需要在人工智能工程和神经科学研究之间来回切换。
Q：如果我们想实现《西部世界》中的世界，主要的障碍是什么？
A：我看过几季《西部世界》，它们似乎并不是理想中的AI，很多角色最后下场不怎么样。物理学家Richard Feynman有一句名言——我无法创造出我不理解的事物，“What I cannot create, I do not understand”。也就是只有真正理解了才能够构建。
Q：如何构建「意识」？
A：我能想到的最好方法就是造人，生孩子（笑）。我有两个小孩，我认为他们大部分时间都意识清醒。所以这是最简单的方法，我猜最近大约有 70 亿人都这样做。
另外就涉及到AHI，建立一个像我们一样思考的人工系统，以与我们相同的方式思考，和他交谈，看看他脑子里到底在想些什么。最近的一个报道（https://www.cnn.com/2022/07/23/business/google-ai-engineer-fired-sentient）讲到，有位谷歌工程师认为与他交谈甚欢的大型语言模型有意识，尽管别人都认为是他错了，他却信誓旦旦。
“
AI和神经科学的交锋
Q：作为神经科学家，神经科学应该如何给人工智能研究带来启发？
A：有两种思考方式。首先，以正确的方式从神经科学中提取思想，并将它们应用于人工神经网络。人工神经网络最初是源于从4、50年前形成的神经回路理论。从那时起，我们已经了解了足够多的神经科学。
AI研究员们经常去神经科学的会议，他们会坐在观众席上，然后说，太有趣了，也许我可以用上那个。这当中有很多偶然性。Yann LeCun、Geoff Hinton他们偶然会读到一些神经科学的论文。Jeff Hawkins实际上花费了大量时间思考神经科学，他非常看重这一学科。印象中，差不多30年前，我还在读研的时候，NeurIPS已经是计算神经科学（computational neuroscience）领域的顶会（NeurIPS 会议最初是在 1986 年由加州理工学院和贝尔实验室组织的关于计算神经网络的年度斯诺伯德（Snowbird）会议上提出的。NeurIPS 旨在为探索生物和人工神经网络的研究人员提供一个互补的开放式跨学科会议。）当时参会者大部分都是在两个交叉领域有所涉猎的人。但是后来两个领域的人渐行渐远，慢慢分离开。做机器学习的人走了一条路，做神经的人走了另一条路。差不多一代人以前，那种亲密的联络日渐衰微。
当然也有一些例外，比如DeepMind所做的事情，斯坦福和麻省理工学院以及越来越多的加州大学洛杉矶分校和越来越多的其他机构来弥合这一鸿沟。我们这篇工作的意义就在于，通过这一篇论文强调这个问题的重要性，起到一个催化剂的作用推动向前。在比如说政府资助方面凸显作用。
Q：AI 研究人员和神经科学家在思维方式上有什么不同？
A：神经科学的人属于科学家，人工智能研究者本质上是工程师。他们的终极目标不是理解，而是构建。而为了构建，你需要理解你所正在构建事物的基础。就好比我们手中的iPhone，在过去的5到10年间，它变得更快更小、电池寿命更长，这些都是渐进式的进步，不需要根本性的灵感。(当然不可否认，iPhone是一件了不起的工程产品）。AI需要根本性的灵感，来自神经科学。
“
在冷泉港工作
Q：冷泉港实验室是世界上最负盛名的生命科学实验室之一。在那里工作是什么感觉？
A：在冷泉港实验室工作的体验棒极了，这里主要的强项是生物、神经科学、基因研究。它位于距离纽约市一小时车程的地方，地方不大，环境优美，位于水面上（照片）。在这里工作的一大优点是每周有大量的会议，尤其是生物方面的会。我的同事熟人们他们会从世界各地纷至沓来，正是因为地方小，所以我们互动频繁。尤其是自己领域之外的人。我的一个亲密同事，他研究的是基因系统、分子生物学。我原本对遗传学和分子生物学知之甚少，现在这些领域知识成了我工作的核心。
冷泉港实验室
Q：实验室的资金来源是？
A：根据美国的体系，我们需要向美国国立卫生研究院（NIH）申请捐赠资金，同时也筹集一部分资金。大致的比例可能是1/2，或者2/3。
Q：实验室的工作重心是？
A：我们实验室在做的事情一直是试图了解神经回路。我们实验室的一个工作假设是，包括抑郁、精神分裂症、自闭症等的精神类疾病，在很多情况下都是大脑接线障碍导致的。这种情况下，往往出现问题的神经元无法正常传递信息。某个脑区的神经元无法适当地与另一个脑区的神经元进行交流。有时我们去猜测是哪些脑区无法正常交流。连接太多或太少都不行。
于是实验室在动物身上进行研究，研究动物身上的神经回路。我们认为涉及语言交流障碍的自闭症，和神经通路的中断有关，而这种中断也可能源于特定基因的突变有关。研究的总体思路是，如果你认为某个基因导致了人类的自闭症，破坏老鼠体内的那个基因，然后和普通的老鼠相比看看神经回路发生了什么。
Q：追溯早期的学术和职业生涯，是什么让您多年来对神经科学保持热情？
A：几经周折和辗转，我花费很长时间才意识到我感兴趣的是什么。我真正感兴趣的是，如何从大脑中构建思想，从物质中打造意识。这个问题很难回答。也许是哲学家要解决的问题。具体地，我想了解的是如何从神经元集合中获取行为，或者说计算。读研究生期间，我做的是纯理论，那是1980年代末期，当时人工神经网络再次流行起来。我的博士论文做的是神经元建模，并试图在回答一个重要的问题，神经元与人工神经元的工作方式有何不同。
我博士期间主要研究的是神经元的树突。后来我想真正学习如何做实验，我加入了神经科学传奇人物之一的Chuck Stevens实验室（他上个月刚刚逝世，享年88岁）。在他的实验室工作期间，我花大量时间了解突触是如何工作的。后来我来到了冷泉港，在这里我试图通过研究回答人们一直在问的关于猕猴中的决策能力，只是不同的是，我们在啮齿动物身上做实验。
当时和我的一位同事Zach Mainen一起，开始教老鼠执行复杂的认知任务。当时，很多人都认为这是不可能完成的。我们当时专注研究听觉系统，梳理了负责做出听觉决策的神经回路。与此同时，我意识到真正需要的是一个完整的大脑回路图。我们需要理解神经元究竟是如何连接起来的，于是我开始开发一套新的分子工具，用于高速分解神经回路。这是我们当时的主要工作。
Q：最后，您能给我们介绍一下您想象中的未来人工智能吗？它会是什么样子？
A：我关于未来AI的愿景和科幻小说中的没有什么不同。幻灯片中展示了来自电视和电影中五六个不同的机器人。我通常把这个当成一个测验，测试一个人看过多少科幻片。
有星球大战，阿诺施瓦辛格演的终结者。以及一个我小时候看的一个电视剧，叫做lost in space，里面有一个小机器人，the Jetsons动画片里面的。C-3PO可能是一个不错的选择，一个类人的机器人可以聊天，而不像终结者里面的，要杀了你。
机器人不应该生来暴力或恶毒，我认为这也许是属于灵长类的特质。人类是从灵长类动物进化而来的，灵长类动物是哺乳动物当中比较卑鄙、恶劣、暴力滋生的群体。你看猴子们经常互相攻击。我们人类的冲动来自灵长类祖先，一种预测是，5万年前，我们现代人类与一群其他非常聪明的物种——尼安德特人、等等——共享地球。他们中的大多数，可能还有其他几个。
一种可能性是我们杀死了他们，也许我们不是最聪明的，也许我们只是最暴力的。我认为没有任何理由可以想象，智能需要与暴力或统治，这类事情密切相关。
Q：也就是说，机器人不应该是“生来本恶”的。
A：没错，除非是那些军事目的生产的杀手机器人。
Q：最近读过哪些书可以推荐给读者？
A：好问题。我最近读过一本描写AI历史的书，叫做The Genius Makers，作者是Cade Metz。此外，有一些关于神经科学的书给人很多的灵感，其中一本叫做Other Minds，作者是Peter Godfrey Smith。他是一位哲学家，博物学者，还是一位潜水员。他喜欢水肺潜水。这本书讲了很多关于章鱼的大脑/思维。章鱼其实是非常聪明的，它们是比较近期才进化的，与脊椎动物完全分离开。之所以称之为Other minds，因为章鱼几乎是我们在地球上能看到的最接近外星智慧形式的生物了。从进化的角度讲，章鱼和脊椎动物之间的共同祖先，似乎是水母类的生物（我忘记具体是什么），并不是非常复杂的生物。
另一本关于脊椎动物智能的书，叫做Are We Smart Enough to Know How Smart Animals Are？作者是一个灵长类动物学家Frans de Waal。他研究了很多生物，猴子、猿，大象、乌鸦等等，非常聪明，但方式与我们不同。最后一本我想推荐的书叫做The Mind of the Bee。蜜蜂只有100万个神经元，却拥有很强大的能力。它能飞出去5到10英里，然后通过视觉提示找到回去的路线。最近看到一篇论文表明一只蜜蜂可以教另一只蜜蜂如何做某事。我们有足够的算力来模仿蜜蜂的神经回路，但却没法构建出如此聪明的东西。太神奇了。
更多内容 尽在智源社区