理查德·费曼谈强人工智能——机器能够像人一样思考吗？

全文共3530字，预计学习时长11分钟

理查德·费曼（RICHARD FEYNMAN）

 

1985年9月26日，诺贝尔物理学奖得主，也被称为爱因斯坦之后最睿智的理论物理学家，第一位提出纳米概念的人——理查德·费曼（Richard Feynman，1918-1988）在一次讲座中提出了强人工智能（artificial general intelligence，又称“strong-AI”）。

 

费曼的完整回应视频如下:

 

 

随着通过人工神经网络进行机器学习的出现，费曼在这个问题上的想法以及和现在的接近程度，即使是在35年前，也是令人着迷的。

 

以下是费曼回复的逐字稿。

 

观众提问

 

你认为会不会出现一种机器，能够像人类一样思考，并且比人类更智能呢？

 

理查德·费曼的回答

 

首先，它们能像人类一样思考吗？我会说“不”，稍后我会解释我为什么说“不”。其次，如果要问“他们是否比人类更智能”，首先必须给“智能”下定义。如果你问我它们是不是比人类更好的棋手？可能是的，“总有一天会研发出这种机器”。

 

当然，到了1985年，人类国际象棋大师仍然比更机器强大。直到1996年和1997年国际象棋超级大赛上，加里·卡斯帕罗夫与IBM超级计算机“深蓝”的传奇六局对弈中，一台计算机击败了一位世界级国际象棋冠军。即便如此，比分还是3.5比2.5，卡斯帕罗夫对这场失利提出了异议，声称IBM团队在比赛间隙以某种方式代表机器进行了干预。

 

理查德·费曼（RICHARD FEYNMAN）

人工智能效应

 

“一旦它开始发挥作用,就不会再有人叫它人工智能了。”
——约翰·麦卡锡（John McCarthy）

费曼接下来谈到了所谓的“人工智能效应（AI effect）”，即当一台编程机器被指令执行一项任务并实际执行时观察到的损耗，旁观者认为人工智能所实现的并不是“真正的”智能:

 

他们是比现在大多数人更好的棋手！有一件事，我们总是希望这个该死的机器比任何人都好，而不仅仅是比我们好。如果我们找到了一台在国际象棋上赢过我们的机器，它不会给我们留下太多的印象。我们一直在说“当它与大师对抗时会发生什么？”我们想象我们人类在任何事情上都等同于大师，对吧？机器必须比最好的人以最高的水平做的每件事上都要好。好吧，但这对机器来说很难。

 

谈创建人工机器

 

费曼接着通过类比自然进化的运动模式（例如哺乳动物通过韧带、肌腱、关节和肌肉共同完成的跑步步态，）和机械设计的运动模式（使用轮子、翅膀和/或螺旋桨共同完成）之间的差异来探讨心智模型的问题:

 

关于我们是否让机器像“人类”一样思考的问题，我的观点是:我们试图用我们所拥有的材料使这些东西尽可能有效地工作。材料不同于神经等等。如果我们想制造出一个能在地面上快速奔跑的东西，那么我们就可以观察猎豹的奔跑，我们也可以尝试制造一个像猎豹一样奔跑的机器。但是，制造一台有轮子的机器要容易得多。可以尝试制造一些有飞速运转的轮子或能在空中飞行的东西。

 

当我们造一只鸟的时候，就像飞机虽然会飞，但它们不像鸟一样飞。它们不扇动翅膀，它们的前部有另一个可以四处飞行的装置，或者更现代的飞机有一个管子，你可以在前端加热空气，然后从后部喷出，还有喷气推进装置、喷气发动机、内部的旋转风扇等等，它们还需使用汽油。这是不一样的。所以，毫无疑问，从这个意义上来说，未来的机器不会像人类那样思考。关于智能，我认为道理是完全一样的，例如，它们不会像我们那样做算术，但它们会做得更好。

 

图源：k.sina.com.cn

超人类的弱人工智能

 

对于通过设计的机械装置而不是自然进化的器官来完成一项脑力任务的优越性的举例，费曼接下来描述了超人类的弱人工智能（narrow AI）（如计算器）与人脑之间的差异:

 

让我们以非常基础的数学问题为例。

 

对于算术来说，它们的算术做得比任何人都好。速度快得多，方式也完全不同，但本质上是一样的，因为最后会得出相同的结果。这是一个很好的例子。我们永远不会改变它们做算术的方式，让它更像人类。那是在倒退。因为，人类所做的算术是缓慢的、繁琐的、混乱的和充满错误的。如果把计算机能做的事情和人类相比较，我们会发现以下比较有趣的现象：

 

首先，如果我给你，一个人类，一个这样的问题:我要向你要回这些数字，每隔一个，顺序相反。我会给出一系列的数字，以每隔一个且顺序相反的方式返回。很简单，就像我给你的那样把数字还给我。那么就开始了，1，7，3，9，2，6，5，8，3，1，7，2，6，3有人能做到吗？没有。这不超过20或30个数字，但是你可以给计算机50,000个这样的数字，要求它任意变换顺序、求它们的总和、用它们做不同的事情，等等。所以有些事情计算机做得比人好得多，如果你想把机器和人相比，你最好记住这一点。

 

模式识别问题

 

接下来，费曼的回答将越来越接近于未来由监督式机器学习解决的问题，即大型数据集的模式识别:

 

但是，人类要为自己做事，他们总是这么做。他们总是试图找到一件事，那就是他们能比计算机做得更好。所以，我们现在知道很多很多事情人类可以做得比计算机更好。一个女士走在街上，她摆动了一下身体，你认出了那是简。或者，这个人走过去，你看到他的头稍微转了一下，很难看清是谁，离我们很远，但是他的后脑勺看起来特别有趣，你会认出那是杰克。识别事物、识别模式，似乎还没能投入到一个确定的程序中。

 

这个时候，你可能会说，“我有一个很好的识别杰克的程序，只要给杰克拍很多张照片就行了”--顺便说一下，用这种方法可以把一张照片放到电脑里，如果这个照片够精细的话，就可以在不同的点分辨出它是黑的还是白的。你知道，事实上你在报纸上看到的图片是由黑白点组成的，如果图片足够精细，你就看不到这些点了。所以，有了足够的信息，就可以加载图片，把杰克在不同情况下的所有图片放进去，然后有一台机器进行对比。

 

图源：mt.sohu.com

偏差-方差权衡

 

费曼接着从本质上解决了数据训练集中的方差问题，因此也变相地解决了所谓的偏差-方差权衡问题。在统计学和机器学习中，偏差-方差权衡是一组预测模型的性质，其中参数估计中偏差较低的模型在样本之间的参数估计方差就偏高，反之亦然。偏差-方差权衡描述了一个优化问题，其中有人试图同时最小化学习算法中错误假设的偏移误差以及训练集中对小波动的敏感性的方差。

 

麻烦的是，新的实际情况是不同的。光线不同、距离不同、头的倾斜角度也不同，你必须想出如何考虑到这一切。这是如此的复杂和精细，即使是用有充足存储量的、可以保证运行速度的大型机器，也无法弄清楚如何创建一个可行的程序，或者至少在任何地方都能以合理的速度运行的程序。

 

因此，识别事物对于目前的机器来说是很困难的，而有些事情则可以由一个人在一瞬间内完成。所以，有一些人类可以做的事情，我们不知道如何在档案系统中做。这就是识别，这让我回忆之前留下的问题，那就是什么样的档案办事员需要具备某种特殊技能，进行复杂的识别。例如，指纹部的办事员查看指纹，然后仔细比对，看这些指纹是否匹配。这很难实现，但几乎可以用电脑完成。

 

人工智能现状（1985年）

 

最后，费曼讨论了当时在设计指纹匹配的机器时仍然面临的困难:

 

你会认为这没什么，看看两个指纹，是否所有的血点都是一样的，但事实当然并非如此。手指上有各种污垢，印字的角度不同，压力不同，纹脊也不完全在同一个地方。如果你试图匹配完全相同的图片，那就很容易了，但是指纹的中心在哪里、手指的转动方向是怎样的、哪里被挤压得多一点，少一点、手指上的污垢在哪里、拇指上是否长了疣等等，这些都很复杂。

 

这些复杂的小细节使得机器的比对变得如此困难，对于“盲档案管理员系统”来说，这太繁复了、太慢了，肯定是完全不切实际的。目前，我几乎不知道他们的进展，但他们正在快速地试图攻克。而人类却可以通过某种方式跨越所有这些障碍，就像它们在国际象棋比赛中所做的那样。它们似乎能够快速地捕捉到模式，而我们不知道如何快速地，自动地做到这一点。

 

理查德·费曼（RICHARD FEYNMAN）

对于费曼的观点，你认可吗？如有个人不同观点，欢迎在评论区踊跃发言哦~

推荐阅读专题

留言 点赞 发个朋友圈

我们一起分享AI学习与发展的干货

编译组：杨月、高雪窈

相关链接：

https://medium.com/cantors-paradise/richard-feynman-on-artificial-general-intelligence-2c1b9d8aae31

如需转载，请后台留言，遵守转载规范

推荐文章阅读

ACL2018论文集50篇解读

EMNLP2017论文集28篇论文解读

2018年AI三大顶会中国学术成果全链接

ACL2017 论文集：34篇解读干货全在这里

10篇AAAI2017经典论文回顾

长按识别二维码可添加关注

读芯君爱你