2018-08-30|认知笔记2——思想实验

王烁《30天认知训练》第二讲，主题是：什么是思考，怎样更好地思考。推荐的书是Daniel C. Dennett 的《直觉泵和其他思维工具》(Intuition Pumps And Other Tools for Thinking)。

第二讲主要讲的是三个思想实验：图灵测试、中文盒子和亿年机器人。这三个思想实验都与机器智能能否与人脑智能等同有关，其中“亿年机器人”则来源于书《直觉泵和其他思维工具》。

简单说一下什么是思想实验：科学世界理解世界的办法主要是观察和做实验，而思想实验是指在现实中没法实验、而是用想象去构造的实验。

图灵测试，主要是对机器智慧的终极测试。图灵本人只关心机器是否拥有智能(thinking)，测试并不关心机器能否像人一样获得意向(intentionality)、意识(consciouness)、意志(will)。但哲学家们却认为，哲学家认为：与人等价的智能应该包含意向、意识、意志这些内容，没有它们、认知何来？不能自知，无法自决，谈何智慧？

哲学家塞尔（John Searle）把拥有意向、意识、意志的机器只能叫做强人工智能（strong AI），缺少这些而只会计算推断，解决具体问题的机器智能叫做弱人工智能（weak AI）。这便是由哲学家分类的强弱人工智能。而塞尔本人，通过“中文盒子”这个思想实验去推断，他认为，没有理解就没有意向，也不会有真正的思维，更没有意识、意志，这些层层递进的高级人类智慧。因而对于机器能否拥有与人类等同的智能，他的答案是：强人工智能不可能只通过计算获得，它有赖于大脑还未解开的某个特殊机理。

而更吸引我的是丹尼特的“亿年机器人”思想实验，这个思想实验主要讲的是：假设人为了看到一亿年后的地球，选择了休眠，并且只给机器人下了一个指令“让我活着”，剩下的都由机器人伺机而动。而机器人在保存人生命的最终目标下，根据环境变迁，会自己衍生出许多次生目标，也发展出了自运行的能力，拥有了自主决策的智慧。

继续往深处讲，这个实验中的机器人就是人类自己，在演化中，基因创造出人来做它们的机器人，以保护它们在人类身边身边慢慢休眠。人是基因为了永生而造出来的机器人，但在基因不得不让渡的自主决策空间中，人类演化出了自由意志。所以丹尼特认为：既然人本来是机器，机器何尝不能是人、不能进化出与人类同样的智能？

第一次看到这个思想实验时，还是很新奇、有道理，也带着一丝害怕...虽然只是一个思想实验，也没有最直接存在着的证据去证明，推断和结论是对的。但这种思考的方角和角度，很有脑洞。而丹尼特为思想实验而发明的“直觉泵（intuition pumps）”一词，就是一种思维工具，指在没有证据、数据的地方，从公认的直觉开始做思想实验，看它能将人们带向何方。在未来未知也难预测的情况下，由直觉而出发的思想实验真的是很有意思。