哥德尔对心－脑－计算机问题的解
【 文献号 】1-1340
【原文出处】自然辩证法研究
【原刊地名】京
【原刊期号】199911
【原刊页号】29～34
【分 类 号】B2
【分 类 名】科学技术哲学
【复印期号】200002
【 标 题 】哥德尔对心－脑－计算机问题的解
【标题注释】本文为国家哲学社会科学规划项目（批准号为：98BZX029）阶段成果。
【 作 者 】刘晓力
【作者简介】刘晓力，女，1954年生，内蒙古大学哲学系教授。邮编：内蒙古呼和浩特市 010021
【内容提要】“电脑是否可代替人脑”，“人心是否胜过计算机”？这是当代心灵哲学家最为热衷的谜题，另有一批具有数理背景的科学家和哲学家很难抵御用哥德尔（Kurt G＠①del ）不完全性定理论证“人心胜过计算机”的诱惑。然而，哥德尔本人认为，仅仅依据不完全性定理不足以推出如此强硬论断，需要附加其他哲学假定。本文依据近年来公布的哥德尔的重要手稿及私人谈话纪录，探讨他对心－脑－计算机问题独特的解，期望以此为当代心灵哲学争论提供一种参照。
【 正 文 】
今天，计算机文化愈益在人类文化中凸现其重要地位，“电脑是否可代替人脑”，“人类心智是否胜过计算机”，“人类能否沦为机器的奴隶”？这类问题随着超级电脑“深蓝”战胜世界国际象棋大师的不凡之举，更加成为大众关注的热点，争论了半个世纪的心－脑－计算机问题20世纪末再度在心灵哲学家、自然科学家和人工智能专家中白热化。强人工智能观点的支持者似乎从“深蓝”的行为进一步获得了支持证据。因为按照他们的观点，精神活动过程同机器执行程序一样，不过是在从事某种良定义的被称为算法的运算过程。而人脑和简单的计算机的主要差别仅仅在于人脑活动具有更大的复杂性，或者表现为更高级的结构，但人的所有精神品质，包括思维、情感、智慧、意识都不过是大脑执行的“算法”特征而已。这些观点曾一度受到许多科学家的强烈抨击，进入90年代以来，更遭到一些反对心－脑同一论的心灵哲学家的深刻批判。
按照当代心灵哲学领域最著名的代表人物之一塞尔（J.R.Searle）的严格区分， 弱人工智能观点认为计算机的主要价值就在于为心（Mind）的研究提供有利的工具，例如，它能使我们用更严格精确的方式把各种假说形式化、程序化并加以核验。强人工智能观点不仅把计算机看作心的研究工具，更极端地认为适当程序化的计算机本身就处于心的状态之中，认为被赋予正确程序的计算机确实能够理解事物并具有其他的认知状态。这样，“计算机程序就不仅仅能帮助我们验证心理解释，相反，程序本身就是解释。”1997年塞尔出版了他探索心－脑－计算机问题的新作《意识之谜》，对强人工智能观点发起了新一轮哲学攻势。
塞尔通过讲述那个著名的“汉堡包”的故事，并用他的所谓“中文屋”概念批驳了强人工智能专家所持有的观点：完全可以在精确的意义上说，计算机具有人类理解故事和解答相关问题的能力。在塞尔看来，计算机的理解力与汽车和计算器的理解能力没有什么不同，计算机与人类的心智相比，其理解力不仅是不完全的，而且可以说完全是一个空白。当然，对塞尔来说，重要的不是要论证“计算机不能思维”，而是要回答“正确的输入输出加上正确的计算本身是否足以保证思维的存在？”“如果我们所说的机器是指一个具有某种功能的物理系统，或者只从计算的角度讲，大脑就是一台计算机”，然而心的本质并非如此。塞尔认为，计算机程序纯粹是按照语法规则来定义的，而语法本身不足以担保心的意向性和语义呈现，程序的运行只具有在机器运行时产生下一步形式化的能力，并不保证心的状态的出现。只有那些使用计算机并给计算机一定输入同时还能解释输出的人才具有意向性。意向性是人心的功能，心的本质绝不能被程序化，也就是说，心的本质不是算法的。因此，要探讨心－脑－计算机的问题，应当首先明确“算法”概念。
1 算法概念的流变
本世纪30年代以前算法只是一个直观的概念，人们直观理解的算法就是在有限的时间内，可以根据明确规定的运算规则，在有穷步骤内得出确切计算结果的机械步骤。人们最熟悉的例子是欧几里得的求两个数的最大公约数的经典算法。1928年德国数学家希尔伯特（D.Hilbert ）在波伦亚国际数学家大会上提出如下判定问题：是否存在一般的能在原则上一个接一个地解决所有（属于某种适当定义的类的）数学问题的机械步骤？这里的“机械步骤”实际上就是“算法”的直观概念。1936年英国数学家，非凡的密码破译专家图灵（A.M.Turing）引进“图灵机”概念，第一次给出算法概念严格的数学表达，“算法可计算函数”即“图灵机可计算函数”。此后人们发现，“λ－可计算函数”、“一般递归函数”、“正规算法”和“波斯特演算”都是与“图灵机可计算函数”等价的关于“算法”的数学界定。正是有了算法的精确定义，人们很快证明了不存在解决所有数学问题的一般算法，而且还具体证明了不存在解决一些重要的判定问题的算法（例如谓词演算的判定、停机问题的判定、半群上字的等价性的判定、丢番图方程可解性的判定等）。图灵是通过证明不存在决定图灵机停机问题的算法来证明不存在判定所有数学问题是否可解的一般算法的，丘奇（A.Church）则用此完全不同的方法证明了相同的结论。更重要的是，正是算法概念精确的数学表述使现代意义上的电子计算机得以产生。今天，随着计算机应用和理论的发展，研究算法的静态和动态复杂性的计算复杂性理论已经成为一个重要的专门领域。
1936年，图灵在《伦敦数学会通报》上对心－脑－计算机这一话题发表了一篇重要文章《论可计算数》，其中指出，“我们将假定需要计数的心的状态数是有穷的。这是因为，如果我们承认心的状态有无穷多，它们中的某些状态就会由于‘任意接近’而被混淆。”图灵的这段话当时曾被看作“人类心灵活动不可能超越机械程序”的一个论证。1950年图灵又在《心》（Mind）杂志上发表了一篇题为《计算机与心智》的文章，开篇写道：“我准备考虑一个问题：机器能思维吗？”，并提出了著名的“图灵检验”的概念。文章隐含着“人心等价于一台计算机”的论断，这一论断对40年代后期刚刚兴起的人工智能方案无疑是一强有力的声援，也自然引起了一场大争论。在这场争论中反对派营垒中的一些哲学家和逻辑学家更热衷于以哥德尔定理为依据反对图灵的论断。
人们很难抵御一种强烈的诱惑：从1931年哥德尔的不完全性定理出发证明“人心胜过计算机”这一论断。因为由哥德尔定理，在任何包含初等数论的形式系统中，都必定存在一个不可判定命题，即它和它的否定在系统中都不可证。或者说，任何定理证明机器和程序都将遗漏真的数学命题，数学真理不可能完全归为算法的性质。
1961 年美国哲学家鲁卡斯（John Lucas ）在《哲学》（Philosophy）36卷上以极其激烈的言辞首先撰文《心、机器、哥德尔》，试图用哥德尔定理证明“人心超过计算机”的结论：“依我看，哥德尔定理证明了机械论是错误的，也就是说，心不能解释成机器。”因为，“无论我们构造出多么复杂的机器，只要它是机器，就都对应于一个形式系统，接着就能找到一个在该系统内不可证的公式而使之受到哥德尔程序的打击，机器不能把这个公式作为定理推导出来，但是人心却能看出它是真的。因此这台机器不是心的一个恰当模型。我们总想制造心的一种机械模型，即从本质上是‘死’的模型，而心是‘活’的，它总能比任何形式的、僵死的系统干得好”。随后，另一位美国哲学家怀特利（C.H.Whitely）在接下来的37 卷《哲学》杂志上发表了虽简短但强有力的批驳文章《心、机器、哥德尔——回应鲁卡斯》，遂引起许多人卷入并长达几十年的争论。1979年获得普利策文学大奖的美国畅销书《哥德尔、艾舍尔、巴赫——一条永恒的金带》将艾舍尔义蕴深刻的绘画、巴赫脍炙人口的乐章及哥德尔定理以一种独特的方式连接起来，极具戏剧性地谱写了一曲心－脑－计算机的“隐喻赋格曲”，其中从多个视角阐述了如何用哥德尔定理否证人工智能方案的观点。1989年英国的数学家、物理学家罗杰·彭罗斯（Roger Penrose ）在那本风靡全球的《皇帝新脑——计算机、心智和物理定律》中仍以大量笔墨试图从哥德尔定理出发直接论证“人心超过计算机”，被称为“对哥德尔定理令人吃惊的强应用。”因此在1990年的《行为和大脑科学》（Behavior and Brain Sciences）杂志第13卷上，借评价该书的机会重又引发了许多人介入的一场争论，（包括作者撰写的该书的内容摘要，他人的书评和作者对书评的答复，竟达62页之多，pp.643－705.）。彭罗斯的强硬论证大致是：由哥德尔定理可以得出，人类判断数学真理的过程是超越任何算法的，因为，意识是我们赖以理解数学真理的关键，这种意识是我们能够借直觉的洞察力“看出”（see ）某些在数学形式系统中不能证明的数学命题的真理性，而意识是不能被形式化的，它必定是非算法的。因此计算机绝不可能超越人类心智，计算机不过是强人工智能专家所钟爱的一副“皇帝新脑”而已。而这里的“算法”已经演变为计算机所能模拟的一切，包括“并行计算”、“神经网络”、“启发”、“学习”及与环境的作用等。
2 哥德尔定理是否蕴涵“人心胜过计算机”的结论？
从新近发现的哥德尔的一部分重要手稿和70年代与王浩的谈话记录中我们得知，首先，哥德尔本人并不反对用他的定理作为证明“人心超过计算机”这一结论的部分证据，因为在他看来，不完全性定理并未给出人类理性的极限，只揭示了数学中形式主义的内在局限，但是，仅仅使用他的不完全性定理不足以作出如此强硬论断，还需附加新的假设。但哥德尔也同样明确断言，“大脑的功能不过像一台自动计算机”，而心的本质并非如此。
事实上在严格区分了心、脑、计算机的功能后，“人心是否胜过计算机”的问题可以转换为两个子问题：①是否大脑和心的功能一样等价于一台计算机，而计算机等价于一个形式系统。②是否所有精神活动都是可计算的，而且存在能完全捕获人类所有精神活动的计算机。第一个问题即心脑同一论（The Identical Theory of Body and Mind ）是否正确的问题，第二个问题是精神可计算主义（Mental Computabilism）是否成立的问题。心脑同一论是50年代末以来西方颇为流行的占据主流地位的心灵哲学理论，其核心是将动物及人类的心理活动等同于大脑的运动，其中有物理主义的心脑同一论（分为实体等同，语言等同和功能等同理论）和非物理主义的心脑同一论。同时精神可计算主义主张如下论题，大脑和心的功能基本上像一台计算机，大脑对于精神现象的解释是完全充分的，所有精神现象都是可计算的事实上，涉及哥德尔定理，我们的注意力将更集中于“机器是否能完全捕获人心的数学能力”这个更具体的问题上。在哥德尔的一些手稿和与王浩70年代的谈话中，可以看到哥德尔对心脑同一论和可计算主义的严厉批驳，在他看来心脑同一论和可计算主义完全是“时代的偏见”。
我们知道哥德尔定理蕴涵着对于任何定理证明的机器，都存在某些我们直觉上能看出它的真，但由这台机器不能证明它是定理的数学命题。因此，这似乎表明，在证明定理这一点上人心的能力超过任何计算机。然而，当我们试图严格地对此作出论证时，发现这其中包含着一个令人难以察觉的漏洞。
在1951年所作的吉布斯演讲《数学基础中的若干基本定理极其哲学义蕴》（演讲稿手稿1995年发表）中，哥德尔指出，“从我的定理可以推出的一个可能的结论是如下包含两个支命题的选言判断：或者（a ）数学在下述意义上是不可完全的，即它的自明的公理不可能包含在有穷规则中，因此人心超过有穷机器；或者（b ）存在人心绝对不可判定的丢番图问题。……两个选言支都是与机械唯物主义哲学对立的。选言支（a）与心脑同一论对立。选言支（b）否证了数学对象仅仅是我们的创造的观点。”
在 1972 年的一篇题为“图灵工作中的一个哲学错误”的评论（1972a）中，哥德尔首先指出， 图灵给出的“心灵过程不能比机械过程走得更远”的论证是不充分的，因为它依赖于心只能呈现有穷多个可区分的状态这个假定，显然图灵忽略了一个事实，即心在其运用中不是静止的，而是不停地在发展的。虽然在其发展的每一阶段，心的可能的状态数是有穷的，但没有理由说，这个数在心的发展过程中不收敛到无穷大。哥德尔曾在与王浩的讨论中说，图灵的论证再附加两个假定之后就会站得住脚：①没有与物质相分离的心。②大脑的功能基本上像一台数字计算机。哥德尔认为。②的概然性很高，但无论如何①是将要被科学所否证的，是我们时代的偏见。接下来哥德尔用他称之为“理性乐观主义”的立场对上述选言判断进行了分析：如果我们像希尔伯特那样，坚信“人类理性提出的问题人类理性一定能够解答”，那么就可以否定第二选言支，因为，承认存在人心绝对不可判定的数论问题是与我们的这一信念背道而弛的。这样第一选言支就应当成立，即人心胜过计算机。可见，在哥德尔看来，附加了“人类理性提出的问题人类理性一定能够解答”这样一个哲学假定，就能从不完全性定理推出“人心胜过计算机”的结论。当然，哥德尔也意识到，这种对于心脑同一论和可计算主义的否证未必令人信服，因为它毕竟是一种推论式的。
更值得注意的一点是，哥德尔定理的一种形式是说，任何恰当的定理证明机器，或者定理证明程序，如果它是一致的，那么它不能证明表达它自身一致性的命题是定理。在吉布斯演讲中哥德尔沿着这一条思路又得出下面的结论：
（1）“人心没有能力将它的全部数学直觉公式化（formulating）（或机械化mechanizing）。这就是说， 如果人心把它的某些数学直觉公式化了，这件事本身就会产生新的直觉知识，例如，关于该形式系统的一致性的知识。 这一事实可以称为数学的‘不可完全性”（incompletability）。另一方面，基于迄今为止我们已经证明的结果，仍然不排除有可能存在（甚至能凭经验方法去发现）一台定理证明机器，它事实上确与［人心的］数学直觉等价，但是，我们不可能证明它确实能做到这点， 甚至也不能证明它刚好得出有穷主义数论的正确（correcte）的定理”。
（2）“或者人心胜过一切机器（更严格地讲， 它能比任何机器判定更多的数论问题），或者存在人心［绝对］不可判定的数论问题（不排除二者都真的情形）。”
哥德尔承认，不排除存在一台定理证明机器M 确实等价于数学直觉这种可能，但重要的在于，假定有这样的机器，由不完全性定理立即可得出如下两个结论：①不可能证明M确实能做到这点；②M甚至不能证明它刚好产生正确的定理。因为假定我们能证明M刚好产生正确的定理，由于我们的直觉能证明M是一致的，即“M是一致的”的结论在直觉上是正确的，那么由M的假定，M也应当能够证明M本身是一致的， 这显然与哥德尔定理矛盾。所以②是真的。此外，假定我们能够证明M 确实是一台等价于人类数学直觉的定理证明机器， 即它完全捕获了人心的数学能力（有理由假定，这里的“能力”是指正确的而非出错的数学能力；“证明”是指数学上的证明），那么，这就意味着我们具有一种数学证明，它能够证明M刚好产生正确的定理，这显然是与②矛盾的， 而用哥德尔定理我们已经证明了②是真的。因此问题的核心并不在于是否存在能捕获人类直觉的定理证明机器，而恰恰在于，即使存在这样一台机器，也不能证明它确实做到了这一步。恰如哥德尔所说：
“不排除这种可能，即存在能够产生它的所有自明公理的有穷规则（或一台计算机）。然而如果这样的规则存在，按照我们人类的理解力永远不可能确切知道它一定如此；即，我们永远不可能数学上确切地知道它所产生的定理都是正确的；或者，换句话说，我们只能一个一个地感知（percive）有穷数目的命题的真。但是， 对于它们所有的都是真的至多是能经验可知的，这种断言是基于充分大数目的特例的考察，或者使用了其他归纳推理。”
因此“没有有穷规则能够完全捕获我们的数学直觉——因为，假定如此，我们也能知道它的一致性，这已经超出这些规则本身了。”
哥德尔还区分了主观意义上的数学和客观意义上的数学的概念：主观意义的数学是所有可判定的数学命题的体系；客观意义的数学是所有真的数学命题的体系。作了这一区分，哥德尔指出“或者主观数学超过了所有计算机的计算能力，或者客观数学超过了所有主观数学，或者二者都真。”然后哥德尔给出几个引起争论的结论：
“如果第一个选言支成立，就蕴涵着人类心智的操作不可能归于大脑的操作，大脑的所有操作似乎是由有穷多部件，即神经元和它们的连接构成的有穷机器。”
“第二选言支成立似乎就否证了数学仅仅是我们自己的创造这种观点；因为创造者必然知晓他的创造物的所有特性，由于除了创造者赋予它们的那些特性外它们不可能具有其他特性，这似乎就意味着，数学对象和数学事实（至少它们中的某些）是客观存在的，而且是独立于我们的精神活动和意愿的，也就是说，关于数学对象的某种形式的‘柏拉图主义’或‘实在论’是成立的。”
如果我们接受了哥德尔的这种推理，我们就有了如上论证的一个变体：或者可计算主义是假的，或者数学中的柏拉图主义是真的；不排除两个结论都真的情形。事实上，吉布斯演讲的目的之一就是企图论证数学柏拉图主义立场的合理性。在晚年与王浩的谈话中，哥德尔再次重申他的观点：
“不完全性结果并不排除存在事实上等价于数学直觉的定理证明计算机的可能性。但是定理蕴涵着，在这种情况下，或者我们不能确切知道这台计算机的详情， 或者不能确切知道它是否会准确无误地（correctly）工作。”
“我的不完全性定理使心智不是机器，或者机器不可能理解它自身的结论成为可能。”
“如果将我的结果与希尔伯特所持有的，用我的结果不能反驳的理性主义立场（理性提出的问题理性一定能够解答）结合起来，那么［我们能推出］心智不是机器的明确结论。这是由于，如果心智是一台机器，那么，存在人类心智不能判定的数论问题就将与这种理性主义立场矛盾。”
哥德尔曾对王浩解释：
“我所说的心智是指有无限寿命的个体的心智。这与物种的心智的聚合不同。设想有一个人致力于解决整个问题集：这与实在性问题有关，为此人们会不断引进新公理。”
3 问题的解还有赖于内涵悖论的消除和科学的进展
除了必要的哲学假定之外，在哥德尔看来，回答“人心是否胜过计算机”这一问题的困难之处还在于它与内涵悖论有关。
1972年在纪念冯·诺意曼的会议上，哥德尔曾经问道：“在‘一台完全知道它自身程序的机器’这个概念中是否包含什么悖理之处？”
显然，人类是否能超越自身——或者，计算机程序能否跳出自身——这是一个极为有趣的话题。数论形式系统能够谈论自身，但不能超越自身。一个计算机可以修改自身的程序，但不能违背自身的指令——充其量只能通过服从自身的指令来改变自身的某些部分。这与“上帝能不能造一块他自己举不起来的石头”的幽默悖论颇有类似之处。
哥德尔定理的结论是，一个一致的形式系统或者定理证明机器，不可能证明它自身的一致性。为了否证可计算主义，一个明确的想法是企图找到一种足以表明心智能够证明它自身一致性的论证，显然这种论证具有某种自指性。在与王浩的谈话中哥德尔沿着这条思路给出了几条论断：
“由于涉及‘概念’、‘命题’和‘证明’等一般概念在它们最一般的意义上的不可解内涵悖论的存在，不存在使用这些概念的自指性的论证在逻辑发展的现阶段能被看成是具有确定性的，然而当这些悖论获得满意解决之后，这样的论证也许会变得具有确定性。”“如果一个人能消除内涵悖论，他就能获得一个清晰的‘心不是一台机器’的证明。关于‘证明’（proof）这个一般概念的境况是与‘概念’（concept）这个一般概念的境况相类似的，这是由于我们不能消除围绕着这些一般概念的那些矛盾。否则，一旦我们理解了证明这个一般概念，我们也就凭借心智有一个关于它自身一致性的证明。假定如此，我们也就能够真正从证明的这个一般概念导出矛盾，包括证明的自我应用。我们对证明概念的理解是不完全的，……某些事情与我们的逻辑观念是不符的，这一点是极端明显的。”
哥德尔的一个主要观点是，如果能够逐步更好地理解证明的一般概念，我们就能以一种直接的方式看出（see ）我们能够实施数学证明的整个范围实际上是一致的。假定如此，与计算机不同，数学直觉能够看出并且能够证明它自身的一致性。如果能够把绝对证明当作一个概念，我们就能够以一种系统化的方法陈述和证明关于它的事情。特别地，我们将有可能应用我们卓越的数学直觉去证明我们自身的一致性。但这依赖于我们能否消除内涵悖论，依赖于我们通过寻求新的更高层次的新公理以获得对于“证明”等抽象概念的把握。哥德尔曾在1946年（发表于1965年）的《普林斯顿200周年纪念会关于数学问题的评论》和1961 年的演讲稿手稿（1995年发表）《从哲学的观点看数学基础的现代进展》中对此作过深入探讨。
作了各种哲学层面的思考，哥德尔承认心－物问题的最终解还是要取决于包括大脑生理学的整个科学的进一步发展。“许多所谓的哲学问题都是科学问题，但是往往没有科学地处理。例如，心是否是与物质相分离的问题，在科学家准备讨论它之前哲学家将对此争论不休。因此哲学的功能之一是指导科学研究。”哥德尔断言，“大脑是一台与精神（spirit）相连的计算机。”“总有一天‘没有与物质相分离的心’这一命题将被科学发展的事实所否证。”晚年哥德尔甚至猜想，要把握（与感觉印象相对的）抽象印象，需要进化得足够好的肉体器官，这种器官必定与掌管语言的中枢神经紧密相连。而且，作为时代的偏见，生物学中的机械主义将要遭到否证，依哥德尔之见，“一种否证的办法在于［建立］一条数学定理，大意是，按照物理规律（或性质相仿的其他规律），从基本粒子与场的随机分布开始，在地质年代的跨度内形成一个人体的概然性之低是跟大气因机遇被分为它的各种［化学］成分的概然性差不多。”……尽管哥德尔就心－脑－计算机、生物学中的机械主义以及更一般的心－物问题作出了许多科学上的大胆猜测，但他承认，目前谈论这些话题犹如德莫克利特时代谈论原子一样原始。
除了数学中的柏拉图主义，哥德尔晚年与王浩讨论最多的恐怕就是心－脑－计算机的问题，也就是心与物的关系问题了。哥德尔所以对此如此热衷，是由于心比之大脑优越这点，一方面可以为他的柏拉图主义数学观提供说明，另一方面也是他反对机械唯物主义，坚持理性主义的客观唯心主义一般哲学观的重要依据。因此理解哥德尔对心－脑－计算机问题独特的解应同理解他的数学哲学和一般世界观联系在一起以获得一种整体把握。
【责任编辑】马惠娣
【参考文献】
〔1〕Kurt G＠①del, 1946, Remarks Before the Princeton Bicentennial Conference on Problems in Mathematics, KurtG＠①del: Collected Works Ⅱ, 1990, pp. 150－153.
*1951, Some basic theorems on the foundations ofmathematics and their implications, Kurt G＠①del: CollectedWorks Ⅲ, 1995, pp.304－323.
*1961, The modern development of the foundations ofmathematics in the light of pbilosophy, Kurt G＠①del Collected Works Ⅲ, 1995, pp.374－387.
1972a, Some remarks on undecidability results, G＠①del,1990, Collected Works Ⅱ,pp.305－306.
〔2〕Solomon Feferman,ed al.Kurt G＠①del: Collected Works, Ⅰ,Ⅱ,Ⅲ,New York and Oxford: Oxford University Prees, 1986, 1990, 1995.
〔3〕Wang Hao, 1974, From mathematics to philosophy, London:Routledge and kegan Paul, pp. 81-98, 324-325.
1987, Reflections on Kurt G＠①del, The MIT. Press. Combridge Massac Husetts.
1993. On phisicalism and algorithemism: Can mchines think?Philosophia mathematica, Philosophy of mathematics, its learning, and its application, Series.Ⅲ.pp.97－138.
1995, Philosophy as G＠①del saw it, Boston colloquium for philosophy of science, 1994－1995.
1996, A logical Journey: From G＠①del to philosophy, The MIT. Prees.Combridge Massac Husetts. pp. 183－208.
〔4 〕（美）侯世达：《哥德尔艾舍尔巴赫——集异壁之大成》，郭维德等译，商务印书馆，1997年。
〔5〕罗杰·彭罗斯：《皇帝心脑》，许明贤、吴超忠译， 湖南科学技术出版社，1994年。
〔6〕唐热风：心的本质是计算吗？载《自然辩证法研究》1998 年第4期，第1－6页。
字库未存字注释：
＠①原字为o上加..
【原文出处】自然辩证法研究
【原刊地名】京
【原刊期号】199911
【原刊页号】29～34
【分 类 号】B2
【分 类 名】科学技术哲学
【复印期号】200002
【 标 题 】哥德尔对心－脑－计算机问题的解
【标题注释】本文为国家哲学社会科学规划项目（批准号为：98BZX029）阶段成果。
【 作 者 】刘晓力
【作者简介】刘晓力，女，1954年生，内蒙古大学哲学系教授。邮编：内蒙古呼和浩特市 010021
【内容提要】“电脑是否可代替人脑”，“人心是否胜过计算机”？这是当代心灵哲学家最为热衷的谜题，另有一批具有数理背景的科学家和哲学家很难抵御用哥德尔（Kurt G＠①del ）不完全性定理论证“人心胜过计算机”的诱惑。然而，哥德尔本人认为，仅仅依据不完全性定理不足以推出如此强硬论断，需要附加其他哲学假定。本文依据近年来公布的哥德尔的重要手稿及私人谈话纪录，探讨他对心－脑－计算机问题独特的解，期望以此为当代心灵哲学争论提供一种参照。
【 正 文 】
今天，计算机文化愈益在人类文化中凸现其重要地位，“电脑是否可代替人脑”，“人类心智是否胜过计算机”，“人类能否沦为机器的奴隶”？这类问题随着超级电脑“深蓝”战胜世界国际象棋大师的不凡之举，更加成为大众关注的热点，争论了半个世纪的心－脑－计算机问题20世纪末再度在心灵哲学家、自然科学家和人工智能专家中白热化。强人工智能观点的支持者似乎从“深蓝”的行为进一步获得了支持证据。因为按照他们的观点，精神活动过程同机器执行程序一样，不过是在从事某种良定义的被称为算法的运算过程。而人脑和简单的计算机的主要差别仅仅在于人脑活动具有更大的复杂性，或者表现为更高级的结构，但人的所有精神品质，包括思维、情感、智慧、意识都不过是大脑执行的“算法”特征而已。这些观点曾一度受到许多科学家的强烈抨击，进入90年代以来，更遭到一些反对心－脑同一论的心灵哲学家的深刻批判。
按照当代心灵哲学领域最著名的代表人物之一塞尔（J.R.Searle）的严格区分， 弱人工智能观点认为计算机的主要价值就在于为心（Mind）的研究提供有利的工具，例如，它能使我们用更严格精确的方式把各种假说形式化、程序化并加以核验。强人工智能观点不仅把计算机看作心的研究工具，更极端地认为适当程序化的计算机本身就处于心的状态之中，认为被赋予正确程序的计算机确实能够理解事物并具有其他的认知状态。这样，“计算机程序就不仅仅能帮助我们验证心理解释，相反，程序本身就是解释。”1997年塞尔出版了他探索心－脑－计算机问题的新作《意识之谜》，对强人工智能观点发起了新一轮哲学攻势。
塞尔通过讲述那个著名的“汉堡包”的故事，并用他的所谓“中文屋”概念批驳了强人工智能专家所持有的观点：完全可以在精确的意义上说，计算机具有人类理解故事和解答相关问题的能力。在塞尔看来，计算机的理解力与汽车和计算器的理解能力没有什么不同，计算机与人类的心智相比，其理解力不仅是不完全的，而且可以说完全是一个空白。当然，对塞尔来说，重要的不是要论证“计算机不能思维”，而是要回答“正确的输入输出加上正确的计算本身是否足以保证思维的存在？”“如果我们所说的机器是指一个具有某种功能的物理系统，或者只从计算的角度讲，大脑就是一台计算机”，然而心的本质并非如此。塞尔认为，计算机程序纯粹是按照语法规则来定义的，而语法本身不足以担保心的意向性和语义呈现，程序的运行只具有在机器运行时产生下一步形式化的能力，并不保证心的状态的出现。只有那些使用计算机并给计算机一定输入同时还能解释输出的人才具有意向性。意向性是人心的功能，心的本质绝不能被程序化，也就是说，心的本质不是算法的。因此，要探讨心－脑－计算机的问题，应当首先明确“算法”概念。
1 算法概念的流变
本世纪30年代以前算法只是一个直观的概念，人们直观理解的算法就是在有限的时间内，可以根据明确规定的运算规则，在有穷步骤内得出确切计算结果的机械步骤。人们最熟悉的例子是欧几里得的求两个数的最大公约数的经典算法。1928年德国数学家希尔伯特（D.Hilbert ）在波伦亚国际数学家大会上提出如下判定问题：是否存在一般的能在原则上一个接一个地解决所有（属于某种适当定义的类的）数学问题的机械步骤？这里的“机械步骤”实际上就是“算法”的直观概念。1936年英国数学家，非凡的密码破译专家图灵（A.M.Turing）引进“图灵机”概念，第一次给出算法概念严格的数学表达，“算法可计算函数”即“图灵机可计算函数”。此后人们发现，“λ－可计算函数”、“一般递归函数”、“正规算法”和“波斯特演算”都是与“图灵机可计算函数”等价的关于“算法”的数学界定。正是有了算法的精确定义，人们很快证明了不存在解决所有数学问题的一般算法，而且还具体证明了不存在解决一些重要的判定问题的算法（例如谓词演算的判定、停机问题的判定、半群上字的等价性的判定、丢番图方程可解性的判定等）。图灵是通过证明不存在决定图灵机停机问题的算法来证明不存在判定所有数学问题是否可解的一般算法的，丘奇（A.Church）则用此完全不同的方法证明了相同的结论。更重要的是，正是算法概念精确的数学表述使现代意义上的电子计算机得以产生。今天，随着计算机应用和理论的发展，研究算法的静态和动态复杂性的计算复杂性理论已经成为一个重要的专门领域。
1936年，图灵在《伦敦数学会通报》上对心－脑－计算机这一话题发表了一篇重要文章《论可计算数》，其中指出，“我们将假定需要计数的心的状态数是有穷的。这是因为，如果我们承认心的状态有无穷多，它们中的某些状态就会由于‘任意接近’而被混淆。”图灵的这段话当时曾被看作“人类心灵活动不可能超越机械程序”的一个论证。1950年图灵又在《心》（Mind）杂志上发表了一篇题为《计算机与心智》的文章，开篇写道：“我准备考虑一个问题：机器能思维吗？”，并提出了著名的“图灵检验”的概念。文章隐含着“人心等价于一台计算机”的论断，这一论断对40年代后期刚刚兴起的人工智能方案无疑是一强有力的声援，也自然引起了一场大争论。在这场争论中反对派营垒中的一些哲学家和逻辑学家更热衷于以哥德尔定理为依据反对图灵的论断。
人们很难抵御一种强烈的诱惑：从1931年哥德尔的不完全性定理出发证明“人心胜过计算机”这一论断。因为由哥德尔定理，在任何包含初等数论的形式系统中，都必定存在一个不可判定命题，即它和它的否定在系统中都不可证。或者说，任何定理证明机器和程序都将遗漏真的数学命题，数学真理不可能完全归为算法的性质。
1961 年美国哲学家鲁卡斯（John Lucas ）在《哲学》（Philosophy）36卷上以极其激烈的言辞首先撰文《心、机器、哥德尔》，试图用哥德尔定理证明“人心超过计算机”的结论：“依我看，哥德尔定理证明了机械论是错误的，也就是说，心不能解释成机器。”因为，“无论我们构造出多么复杂的机器，只要它是机器，就都对应于一个形式系统，接着就能找到一个在该系统内不可证的公式而使之受到哥德尔程序的打击，机器不能把这个公式作为定理推导出来，但是人心却能看出它是真的。因此这台机器不是心的一个恰当模型。我们总想制造心的一种机械模型，即从本质上是‘死’的模型，而心是‘活’的，它总能比任何形式的、僵死的系统干得好”。随后，另一位美国哲学家怀特利（C.H.Whitely）在接下来的37 卷《哲学》杂志上发表了虽简短但强有力的批驳文章《心、机器、哥德尔——回应鲁卡斯》，遂引起许多人卷入并长达几十年的争论。1979年获得普利策文学大奖的美国畅销书《哥德尔、艾舍尔、巴赫——一条永恒的金带》将艾舍尔义蕴深刻的绘画、巴赫脍炙人口的乐章及哥德尔定理以一种独特的方式连接起来，极具戏剧性地谱写了一曲心－脑－计算机的“隐喻赋格曲”，其中从多个视角阐述了如何用哥德尔定理否证人工智能方案的观点。1989年英国的数学家、物理学家罗杰·彭罗斯（Roger Penrose ）在那本风靡全球的《皇帝新脑——计算机、心智和物理定律》中仍以大量笔墨试图从哥德尔定理出发直接论证“人心超过计算机”，被称为“对哥德尔定理令人吃惊的强应用。”因此在1990年的《行为和大脑科学》（Behavior and Brain Sciences）杂志第13卷上，借评价该书的机会重又引发了许多人介入的一场争论，（包括作者撰写的该书的内容摘要，他人的书评和作者对书评的答复，竟达62页之多，pp.643－705.）。彭罗斯的强硬论证大致是：由哥德尔定理可以得出，人类判断数学真理的过程是超越任何算法的，因为，意识是我们赖以理解数学真理的关键，这种意识是我们能够借直觉的洞察力“看出”（see ）某些在数学形式系统中不能证明的数学命题的真理性，而意识是不能被形式化的，它必定是非算法的。因此计算机绝不可能超越人类心智，计算机不过是强人工智能专家所钟爱的一副“皇帝新脑”而已。而这里的“算法”已经演变为计算机所能模拟的一切，包括“并行计算”、“神经网络”、“启发”、“学习”及与环境的作用等。
2 哥德尔定理是否蕴涵“人心胜过计算机”的结论？
从新近发现的哥德尔的一部分重要手稿和70年代与王浩的谈话记录中我们得知，首先，哥德尔本人并不反对用他的定理作为证明“人心超过计算机”这一结论的部分证据，因为在他看来，不完全性定理并未给出人类理性的极限，只揭示了数学中形式主义的内在局限，但是，仅仅使用他的不完全性定理不足以作出如此强硬论断，还需附加新的假设。但哥德尔也同样明确断言，“大脑的功能不过像一台自动计算机”，而心的本质并非如此。
事实上在严格区分了心、脑、计算机的功能后，“人心是否胜过计算机”的问题可以转换为两个子问题：①是否大脑和心的功能一样等价于一台计算机，而计算机等价于一个形式系统。②是否所有精神活动都是可计算的，而且存在能完全捕获人类所有精神活动的计算机。第一个问题即心脑同一论（The Identical Theory of Body and Mind ）是否正确的问题，第二个问题是精神可计算主义（Mental Computabilism）是否成立的问题。心脑同一论是50年代末以来西方颇为流行的占据主流地位的心灵哲学理论，其核心是将动物及人类的心理活动等同于大脑的运动，其中有物理主义的心脑同一论（分为实体等同，语言等同和功能等同理论）和非物理主义的心脑同一论。同时精神可计算主义主张如下论题，大脑和心的功能基本上像一台计算机，大脑对于精神现象的解释是完全充分的，所有精神现象都是可计算的事实上，涉及哥德尔定理，我们的注意力将更集中于“机器是否能完全捕获人心的数学能力”这个更具体的问题上。在哥德尔的一些手稿和与王浩70年代的谈话中，可以看到哥德尔对心脑同一论和可计算主义的严厉批驳，在他看来心脑同一论和可计算主义完全是“时代的偏见”。
我们知道哥德尔定理蕴涵着对于任何定理证明的机器，都存在某些我们直觉上能看出它的真，但由这台机器不能证明它是定理的数学命题。因此，这似乎表明，在证明定理这一点上人心的能力超过任何计算机。然而，当我们试图严格地对此作出论证时，发现这其中包含着一个令人难以察觉的漏洞。
在1951年所作的吉布斯演讲《数学基础中的若干基本定理极其哲学义蕴》（演讲稿手稿1995年发表）中，哥德尔指出，“从我的定理可以推出的一个可能的结论是如下包含两个支命题的选言判断：或者（a ）数学在下述意义上是不可完全的，即它的自明的公理不可能包含在有穷规则中，因此人心超过有穷机器；或者（b ）存在人心绝对不可判定的丢番图问题。……两个选言支都是与机械唯物主义哲学对立的。选言支（a）与心脑同一论对立。选言支（b）否证了数学对象仅仅是我们的创造的观点。”
在 1972 年的一篇题为“图灵工作中的一个哲学错误”的评论（1972a）中，哥德尔首先指出， 图灵给出的“心灵过程不能比机械过程走得更远”的论证是不充分的，因为它依赖于心只能呈现有穷多个可区分的状态这个假定，显然图灵忽略了一个事实，即心在其运用中不是静止的，而是不停地在发展的。虽然在其发展的每一阶段，心的可能的状态数是有穷的，但没有理由说，这个数在心的发展过程中不收敛到无穷大。哥德尔曾在与王浩的讨论中说，图灵的论证再附加两个假定之后就会站得住脚：①没有与物质相分离的心。②大脑的功能基本上像一台数字计算机。哥德尔认为。②的概然性很高，但无论如何①是将要被科学所否证的，是我们时代的偏见。接下来哥德尔用他称之为“理性乐观主义”的立场对上述选言判断进行了分析：如果我们像希尔伯特那样，坚信“人类理性提出的问题人类理性一定能够解答”，那么就可以否定第二选言支，因为，承认存在人心绝对不可判定的数论问题是与我们的这一信念背道而弛的。这样第一选言支就应当成立，即人心胜过计算机。可见，在哥德尔看来，附加了“人类理性提出的问题人类理性一定能够解答”这样一个哲学假定，就能从不完全性定理推出“人心胜过计算机”的结论。当然，哥德尔也意识到，这种对于心脑同一论和可计算主义的否证未必令人信服，因为它毕竟是一种推论式的。
更值得注意的一点是，哥德尔定理的一种形式是说，任何恰当的定理证明机器，或者定理证明程序，如果它是一致的，那么它不能证明表达它自身一致性的命题是定理。在吉布斯演讲中哥德尔沿着这一条思路又得出下面的结论：
（1）“人心没有能力将它的全部数学直觉公式化（formulating）（或机械化mechanizing）。这就是说， 如果人心把它的某些数学直觉公式化了，这件事本身就会产生新的直觉知识，例如，关于该形式系统的一致性的知识。 这一事实可以称为数学的‘不可完全性”（incompletability）。另一方面，基于迄今为止我们已经证明的结果，仍然不排除有可能存在（甚至能凭经验方法去发现）一台定理证明机器，它事实上确与［人心的］数学直觉等价，但是，我们不可能证明它确实能做到这点， 甚至也不能证明它刚好得出有穷主义数论的正确（correcte）的定理”。
（2）“或者人心胜过一切机器（更严格地讲， 它能比任何机器判定更多的数论问题），或者存在人心［绝对］不可判定的数论问题（不排除二者都真的情形）。”
哥德尔承认，不排除存在一台定理证明机器M 确实等价于数学直觉这种可能，但重要的在于，假定有这样的机器，由不完全性定理立即可得出如下两个结论：①不可能证明M确实能做到这点；②M甚至不能证明它刚好产生正确的定理。因为假定我们能证明M刚好产生正确的定理，由于我们的直觉能证明M是一致的，即“M是一致的”的结论在直觉上是正确的，那么由M的假定，M也应当能够证明M本身是一致的， 这显然与哥德尔定理矛盾。所以②是真的。此外，假定我们能够证明M 确实是一台等价于人类数学直觉的定理证明机器， 即它完全捕获了人心的数学能力（有理由假定，这里的“能力”是指正确的而非出错的数学能力；“证明”是指数学上的证明），那么，这就意味着我们具有一种数学证明，它能够证明M刚好产生正确的定理，这显然是与②矛盾的， 而用哥德尔定理我们已经证明了②是真的。因此问题的核心并不在于是否存在能捕获人类直觉的定理证明机器，而恰恰在于，即使存在这样一台机器，也不能证明它确实做到了这一步。恰如哥德尔所说：
“不排除这种可能，即存在能够产生它的所有自明公理的有穷规则（或一台计算机）。然而如果这样的规则存在，按照我们人类的理解力永远不可能确切知道它一定如此；即，我们永远不可能数学上确切地知道它所产生的定理都是正确的；或者，换句话说，我们只能一个一个地感知（percive）有穷数目的命题的真。但是， 对于它们所有的都是真的至多是能经验可知的，这种断言是基于充分大数目的特例的考察，或者使用了其他归纳推理。”
因此“没有有穷规则能够完全捕获我们的数学直觉——因为，假定如此，我们也能知道它的一致性，这已经超出这些规则本身了。”
哥德尔还区分了主观意义上的数学和客观意义上的数学的概念：主观意义的数学是所有可判定的数学命题的体系；客观意义的数学是所有真的数学命题的体系。作了这一区分，哥德尔指出“或者主观数学超过了所有计算机的计算能力，或者客观数学超过了所有主观数学，或者二者都真。”然后哥德尔给出几个引起争论的结论：
“如果第一个选言支成立，就蕴涵着人类心智的操作不可能归于大脑的操作，大脑的所有操作似乎是由有穷多部件，即神经元和它们的连接构成的有穷机器。”
“第二选言支成立似乎就否证了数学仅仅是我们自己的创造这种观点；因为创造者必然知晓他的创造物的所有特性，由于除了创造者赋予它们的那些特性外它们不可能具有其他特性，这似乎就意味着，数学对象和数学事实（至少它们中的某些）是客观存在的，而且是独立于我们的精神活动和意愿的，也就是说，关于数学对象的某种形式的‘柏拉图主义’或‘实在论’是成立的。”
如果我们接受了哥德尔的这种推理，我们就有了如上论证的一个变体：或者可计算主义是假的，或者数学中的柏拉图主义是真的；不排除两个结论都真的情形。事实上，吉布斯演讲的目的之一就是企图论证数学柏拉图主义立场的合理性。在晚年与王浩的谈话中，哥德尔再次重申他的观点：
“不完全性结果并不排除存在事实上等价于数学直觉的定理证明计算机的可能性。但是定理蕴涵着，在这种情况下，或者我们不能确切知道这台计算机的详情， 或者不能确切知道它是否会准确无误地（correctly）工作。”
“我的不完全性定理使心智不是机器，或者机器不可能理解它自身的结论成为可能。”
“如果将我的结果与希尔伯特所持有的，用我的结果不能反驳的理性主义立场（理性提出的问题理性一定能够解答）结合起来，那么［我们能推出］心智不是机器的明确结论。这是由于，如果心智是一台机器，那么，存在人类心智不能判定的数论问题就将与这种理性主义立场矛盾。”
哥德尔曾对王浩解释：
“我所说的心智是指有无限寿命的个体的心智。这与物种的心智的聚合不同。设想有一个人致力于解决整个问题集：这与实在性问题有关，为此人们会不断引进新公理。”
3 问题的解还有赖于内涵悖论的消除和科学的进展
除了必要的哲学假定之外，在哥德尔看来，回答“人心是否胜过计算机”这一问题的困难之处还在于它与内涵悖论有关。
1972年在纪念冯·诺意曼的会议上，哥德尔曾经问道：“在‘一台完全知道它自身程序的机器’这个概念中是否包含什么悖理之处？”
显然，人类是否能超越自身——或者，计算机程序能否跳出自身——这是一个极为有趣的话题。数论形式系统能够谈论自身，但不能超越自身。一个计算机可以修改自身的程序，但不能违背自身的指令——充其量只能通过服从自身的指令来改变自身的某些部分。这与“上帝能不能造一块他自己举不起来的石头”的幽默悖论颇有类似之处。
哥德尔定理的结论是，一个一致的形式系统或者定理证明机器，不可能证明它自身的一致性。为了否证可计算主义，一个明确的想法是企图找到一种足以表明心智能够证明它自身一致性的论证，显然这种论证具有某种自指性。在与王浩的谈话中哥德尔沿着这条思路给出了几条论断：
“由于涉及‘概念’、‘命题’和‘证明’等一般概念在它们最一般的意义上的不可解内涵悖论的存在，不存在使用这些概念的自指性的论证在逻辑发展的现阶段能被看成是具有确定性的，然而当这些悖论获得满意解决之后，这样的论证也许会变得具有确定性。”“如果一个人能消除内涵悖论，他就能获得一个清晰的‘心不是一台机器’的证明。关于‘证明’（proof）这个一般概念的境况是与‘概念’（concept）这个一般概念的境况相类似的，这是由于我们不能消除围绕着这些一般概念的那些矛盾。否则，一旦我们理解了证明这个一般概念，我们也就凭借心智有一个关于它自身一致性的证明。假定如此，我们也就能够真正从证明的这个一般概念导出矛盾，包括证明的自我应用。我们对证明概念的理解是不完全的，……某些事情与我们的逻辑观念是不符的，这一点是极端明显的。”
哥德尔的一个主要观点是，如果能够逐步更好地理解证明的一般概念，我们就能以一种直接的方式看出（see ）我们能够实施数学证明的整个范围实际上是一致的。假定如此，与计算机不同，数学直觉能够看出并且能够证明它自身的一致性。如果能够把绝对证明当作一个概念，我们就能够以一种系统化的方法陈述和证明关于它的事情。特别地，我们将有可能应用我们卓越的数学直觉去证明我们自身的一致性。但这依赖于我们能否消除内涵悖论，依赖于我们通过寻求新的更高层次的新公理以获得对于“证明”等抽象概念的把握。哥德尔曾在1946年（发表于1965年）的《普林斯顿200周年纪念会关于数学问题的评论》和1961 年的演讲稿手稿（1995年发表）《从哲学的观点看数学基础的现代进展》中对此作过深入探讨。
作了各种哲学层面的思考，哥德尔承认心－物问题的最终解还是要取决于包括大脑生理学的整个科学的进一步发展。“许多所谓的哲学问题都是科学问题，但是往往没有科学地处理。例如，心是否是与物质相分离的问题，在科学家准备讨论它之前哲学家将对此争论不休。因此哲学的功能之一是指导科学研究。”哥德尔断言，“大脑是一台与精神（spirit）相连的计算机。”“总有一天‘没有与物质相分离的心’这一命题将被科学发展的事实所否证。”晚年哥德尔甚至猜想，要把握（与感觉印象相对的）抽象印象，需要进化得足够好的肉体器官，这种器官必定与掌管语言的中枢神经紧密相连。而且，作为时代的偏见，生物学中的机械主义将要遭到否证，依哥德尔之见，“一种否证的办法在于［建立］一条数学定理，大意是，按照物理规律（或性质相仿的其他规律），从基本粒子与场的随机分布开始，在地质年代的跨度内形成一个人体的概然性之低是跟大气因机遇被分为它的各种［化学］成分的概然性差不多。”……尽管哥德尔就心－脑－计算机、生物学中的机械主义以及更一般的心－物问题作出了许多科学上的大胆猜测，但他承认，目前谈论这些话题犹如德莫克利特时代谈论原子一样原始。
除了数学中的柏拉图主义，哥德尔晚年与王浩讨论最多的恐怕就是心－脑－计算机的问题，也就是心与物的关系问题了。哥德尔所以对此如此热衷，是由于心比之大脑优越这点，一方面可以为他的柏拉图主义数学观提供说明，另一方面也是他反对机械唯物主义，坚持理性主义的客观唯心主义一般哲学观的重要依据。因此理解哥德尔对心－脑－计算机问题独特的解应同理解他的数学哲学和一般世界观联系在一起以获得一种整体把握。
【责任编辑】马惠娣
【参考文献】
〔1〕Kurt G＠①del, 1946, Remarks Before the Princeton Bicentennial Conference on Problems in Mathematics, KurtG＠①del: Collected Works Ⅱ, 1990, pp. 150－153.
*1951, Some basic theorems on the foundations ofmathematics and their implications, Kurt G＠①del: CollectedWorks Ⅲ, 1995, pp.304－323.
*1961, The modern development of the foundations ofmathematics in the light of pbilosophy, Kurt G＠①del Collected Works Ⅲ, 1995, pp.374－387.
1972a, Some remarks on undecidability results, G＠①del,1990, Collected Works Ⅱ,pp.305－306.
〔2〕Solomon Feferman,ed al.Kurt G＠①del: Collected Works, Ⅰ,Ⅱ,Ⅲ,New York and Oxford: Oxford University Prees, 1986, 1990, 1995.
〔3〕Wang Hao, 1974, From mathematics to philosophy, London:Routledge and kegan Paul, pp. 81-98, 324-325.
1987, Reflections on Kurt G＠①del, The MIT. Press. Combridge Massac Husetts.
1993. On phisicalism and algorithemism: Can mchines think?Philosophia mathematica, Philosophy of mathematics, its learning, and its application, Series.Ⅲ.pp.97－138.
1995, Philosophy as G＠①del saw it, Boston colloquium for philosophy of science, 1994－1995.
1996, A logical Journey: From G＠①del to philosophy, The MIT. Prees.Combridge Massac Husetts. pp. 183－208.
〔4 〕（美）侯世达：《哥德尔艾舍尔巴赫——集异壁之大成》，郭维德等译，商务印书馆，1997年。
〔5〕罗杰·彭罗斯：《皇帝心脑》，许明贤、吴超忠译， 湖南科学技术出版社，1994年。
〔6〕唐热风：心的本质是计算吗？载《自然辩证法研究》1998 年第4期，第1－6页。
字库未存字注释：
＠①原字为o上加..