评《人工智能会取代人类吗？智能时代的人类未来》

It's Alive!: Artificial Intelligence from the Logic Piano to Killer Robots, Black Inc, Australia, 2017.

这是一部关于人工智能过去和未来的书。作者是人工智能业内的权威专家托比·沃尔什（Toby Walsh），他是澳大利亚科学院院士，也是国际人工智能学会会士。沃尔什的专业身份是这本书的专业内容准确无误的保证。整本书按照人工智能发展的历史，分为人工智能的过去、现状和未来，因此，此书的中文译名《人工智能会取代人类吗？》多半是为了营造个噱头，博得对人工智能感兴趣的小白的关注，才设计了这个题目。

通览这本书，在我看来，作者并没有对人工智能是否会取代人类这一问题过于担忧，反而担心人们对人工智能的发展过于乐观而忽视了人工智能技术潜藏的危险。如果要用一句话概括这本书的观点，我认为作者表达了如下思想：人工智能技术作为一种思考机器，它的问世会比之前的机械装置和电气设备对人类社会带来的影响更加深远，然而，在人类与人工智能能够和谐共处之前，政府、社会、企业和个人都有责任提前预防人工智能的潜在危害，包括大规模失业、隐私侵害、不可控的自主意识等。

在文章的第一部分，作者扼要回顾了人工智能的过往岁月，提到了亚里士多德、莱布尼兹、霍布斯、布尔、巴贝奇等人在思维的形式化处理上的贡献。但真正为人工智能时代的到来奠定基础的是二战期间图灵的工作。图灵在为计算机时代的到来奠定了理论基础，也在理论上论证了计算机有其局限性，例如，计算机无法处理停机问题。

1956年的达特茅斯会议是人工智能的肇始之年。此次会议对人工智能的前景极其乐观，认为两个月的研发时间就能实现将“思考转化为计算”。虽然在目前看来，这一乐观过于盲目，但在此后的二十年，Shakey机器人、Dendral专家系统、BKG9.8下棋程序、心理治疗师Eliza等人工智能系统的成功，让不少人看到了人工智能光明的未来。然而，自然语言自动翻译系统、语音识别、常识表征等任务纷纷失败，人工智能研究遭遇第一个寒冬。赫伯特·德雷福斯指出人工智能要能真正落地，其所采用的形式符号必须以现实世界为基础，与现实世界直接互动。在1982年，日本开启第五代计算机系统项目，人工智能研究走出第一波寒冬，然而，仅仅过了十年，人工智能又陷入第二个寒冬。

实现人工智能的第二条进路，也就是基于统计的人工智能打造了人工智能研究的第三个春天。随着计算机算力和数据规模不断提升，深度学习算法展示出强大的能力。无人驾驶汽车、IBM沃森自然语言系统、AlphaGo的成功，理论界和大众对其都影响深刻。现有的人工智能技术已经进入日常生活领域，正成为日常技术的一部分。即使如此，现有的人工智能技术达到了达特茅斯会议一开始的研究目标了吗，人工智能系统能够像人类一样思考了吗，未来的人工智能有可能超越人类的智能吗？回答这一问题，需要测量人工智能的智力程度。

图灵率先提出让第三者判断和他交流的对象是人还是计算机，以此来测试计算机是否具有智能。2014年，一款名叫Eugene Goostman的聊天机器人通过模仿十三岁男孩的智力水平，成功地让30%的人类评委认为它是真人，从而通过图灵测试。暂且不管这一策略是否合理，人工智能事实上并不局限在自然语言对话，还包括多个智力维度。Hector Levesque提出Winograd Schema Challenge测试，旨在测试人工智能师父可以理解语句中代词的具体指代和物理推理能力。作者提出元图灵测试，让真人和人工智能两两配对，然后判断谁是人谁是人工智能。这些都是正面判断人工智能的方法，但人们经常会以人工智能与人的外在相似度的高低估计人工智能所具有的智力水平，这往往会造成恐怖谷效应。

人工智能何时能具有像人一样的智能，学界对此莫衷一是。人工智能发展早期的学者，如图灵、赫伯特·西蒙、马文·明斯基，都曾乐观地估计在一代人之内就可以实现这个目标。而持悲观主义的学者甚至认为自动驾驶汽车都不可能在近期实现（2004），或者认为人工智能至少需要化100年的时间才能击败人类围棋选手。2016年，对人工智能进步协会研究院的调查显示，25%的受访者认为超级人工智能永远不会实现，三分之二的受访者表示需要花25年以上时间，90%以上受访者认为在退休之前这个目标不会实现。

本书的第二部分是关于人工智能发展的现状。作者将现有的人工智能研究分为四个领域，分别是学习领域、推理领域、机器人研究、和语言学研究，而这四个领域的基本研究思路又分为整体构建和各个击破之分。在学习领域，深度学习在当今时代可谓独领风骚。但是，深度学习依赖于大规模数据，而且其内部运行过程基本是一个黑箱，还有无法跨领域使用，这都限制了它的广泛使用，与人类智能相比也大相径庭。如果说深度学习的目的是为了获取新的知识，那么自动推理就是从已有的知识中推出新的结论。现有的自动推理面临组合爆炸、常识和定性推理难题。机器人研究最大的难题是与真实世界进行互动。自然语言研究包括回答问题、机器翻译。上述四个领域都有不小的进展，但离真正达到与人一样的智力水平还有不小的距离。

人工智能发展的空间有多大，有没有内在的局限性？作者将人工智能实现的目标分为弱人工智能、强人工智能、通用人工智能。弱人工智能是指在某一项智能水平上达到或超越人类，而强人工智能是具有人类思维的所有特征，如自我意识、直觉、倾向或道德。通用人工智能是指人工智能有能力解决人类能解决的任何问题，甚至超过人类水平。图灵认为人工智能受限于数学逻辑而不可能达到通用人工智能。有学者认为人工智能不可能具备创造力和意识活动。另外，由于人类的大部分知识是默会知识，人类自身无法理解自己是如何获得的，也难以向他人解释，但无法让人工智能学会此类无法解释的默会知识。当然，人们会限制人工智能所能做的事情，通过特定的伦理约束，防止人工智能做出不当行为。

作者还分析了库尔兹曼的奇点理论，认为单纯提升运算速度无法实现通用人工智能。更为重要的是，机器学习无法改进自己的学习算法，也就是没有这种元智能。另一方面，智能的进步所带来的效益是逐步递减的，不可能存在一个突破点。而复杂系统本身的固有不确定性也让实现通用人工智能迷雾重重，例如，学者们对计算复杂性理解不足。模拟大脑不仅难度大、而且模拟仍存在认知黑箱。最终，作者认为预测人工智能发展是不可能的，而只能对其进行描述，因为智能是一个复杂性系统。但也不能说人工智能就全面落后于人类智能，人工智能的共同学习能够突破人类学习的限制，从而能够了人工智能个体获得的知识快速在群体内传播。

人工智能正在全面改变人类的社会现状，也为人类带来了诸多生存风险，包括失业风险、人工智能的军事化应用、算法的歧视和不公平问题。这就是人们目前在发展人工智能的同时所有提防的系统风险。每一项技术的发展都会有相应的代价，总有一部分人和工作会因此淘汰。而技术中隐藏的观念会深刻影响人们的思维模式，一旦形成，将不容改变，从而成为日常生活的背景条件。技术发展如此迅速，对社会造成的影响如此深刻，但人们对此却毫不在意，没有深刻思考人工智能可能造成的影响。作者提出了人工智能有可能对未来社会发展造成影响的十项预测：1. 禁止人类驾驶汽车；2. 要求人每天看医生；3. 虚拟演员；4. 人工智能决定聘用和解聘员工；5. 物联网；6. 机器人抢银行；7. 机器人运动员；8. 无人驾驶交通工具盛行；9. 虚拟新闻主播；10 数字分身。

总体而言，作者并不担心人工智能在未来是否会超越甚至取代人类，反而担心的是人类错误地使用人工智能而为人类生活带来负面影响。其中最致命的是对技术的错误认识。技术看上去是价值中立的，但也正因为如此，技术能堂而皇之地成为实现人类动机的最佳工具。然而，技术塑造的社会，由此产生的观念加之技术内涵的观念，会深刻影响人类的三观。如果不相信，那就以科学作为模板，反思下科学是如何塑造我们对社会、自我和世界的理解的。