欢迎关注我的同名公众号：郭老师的读书随想
类别：专业
书名：Possible minds : twenty-five ways of looking at AI
作者：John Brockman
内容简介
目前，人工智能需要思考的问题是：正义还是邪恶。这本书来自于2016年9月，我在康涅狄格州华盛顿的格雷斯五月花酒店，与该书的撰稿人们进行的认真的会谈。这些人来自于人工智能领域以及其他相关的领域。我和他们探讨了究竟人工智能是什么，以及它意味着什么。这段对话我称之为“可能的心智”。很多专家表现出围绕人工智能以及更广泛的领域的兴奋和恐惧。我发现，很多人都对控制论的奠基人诺伯特·维纳心存敬意，控制论思想目前仍被广泛采纳。这个思想甚至都没有重新换个名字。时至今日，它仍然无处不在。（摘自本书自序，笔者进行了翻译和整理）
作者简介
约翰·布罗克曼（John Brockman），美国著名的文化推动者、出版人，“第三种文化”领军人， Edge网站创始人。布罗克曼旗下汇集了一大批世界级的科学家和思想家，每年就同一话题进行跨学科讨论。(摘自当当网)
几个问题
上次发了一篇组里同学写的关于人工智能的推文，引起了很多同学的讨论，留言板和微信上都有同学问，究竟怎么才算是人工智能？以我一个底层不知名教育以及科研工作者的浅薄理解而言，这是个观点问题。如同我在这篇推文的编者按里说的，这取决于我们怎么看待人工智能，或者说在你的心目中，对计算机应该要求些什么，就可以说计算机是具备智能的。我在编者按里的问题，可能有点绕口，我把这些问题换个问法（下面的内容，仅代表个人观点，不见得合适，供大家参考讨论）：
1. 你能接受机器犯错误么？比如机器会下棋，但是下不过你，下得不如你好；
2. 你能接受一个只会做一件事情的机器么？比如只会下棋，但是不知道自己在下棋，同时也不会发脾气、闹情绪的机器；
（上面两个问题，简单思考下，你有了自己的答案以后，再往后看）
3. 你能接受机器做某件事情的时候是按照人类完全不清楚的模式进行么？比如机器会下棋，但是它是怎么学会的你也不知道，你只是把一堆棋谱交给了机器，然后给了它一个思考的方向，机器自己就学会了。机器学会之后，走了一步臭棋，当你想纠正它的时候，发现你也没办法纠正，因为你不知道这步棋机器是怎么计算出来的，反正机器按照自己的方式计算出来了。
4. 如果你第三个问题的答案是否定的话，而恰好你的第一个问题的答案又是否定的，对某个人类无法保证不出错的问题上，如何保证机器不出错呢？比如开车。人类无法保证自己开车不出意外，那你如何保证忠实按照人类模式学习出来的好学生机器能做到不出意外呢？对于驾驶这样一个不是简单的规则或者概率问题，在某些特殊情况下，需要人类在瞬时进行判断和操作。而在人类的神经机制尚不非常明确的阶段下，我们又能怎么教给机器呢？
5. 如果你的第三个问题的答案是肯定的话，那么你能接受机器在执行你安排的工作时，有可能会做你没有安排的工作么？如果不能的话，你如何保证呢？比如，如同问题三，机器自己学会了下棋。你也不知道它怎么学会的。你就是把一堆棋谱给了它，然后给了它一个思考的方向。结果机器下棋的同时，又去了打扑克。这样的意外你能接受么？如果不能，那在你不清楚机器工作模式的前提下，你又如何保证不让这样的意外发生？有朋友说，一个下棋的机器怎么可能去打扑克？那如果你的第二个问题的答案是否定的呢？有朋友又会说，那我开发只会下棋或者只会打扑克的机器不就好了么？那你觉着人类会满足于此么？
不知道我说清楚没有，不知道这几个问题把大家绕晕没有。还是引用大佬的话吧。控制论的奠基人维纳，在Science上发表的一篇文章里是这么说的“如果我们为了达到我们的目的而使用一个我们不能有效干预其运作的机械机构。我们最好确信机器的目的是我们真正想要的。”
大佬们的观点
这几个问题的不同答案，可能代表了对待人工智能不同观点。也是就你心目的人工智能应该是什么样的。这个和流派无关。有同学可能知道人工智能目前的三大流派。个人观点，流派是实现的方式不同。而这几个问题，则是目标的问题。当然，既然是目标，就是阶段性的。对于上述几个问题而言，远景规划的话，你的答案是什么。同时，在目前这个阶段，你的答案又是什么？
想对某个问题产生自己的观点，个人建议自己不要轻易下结论，先听听别人怎么说，特别是听听领域内的大佬怎么说。了解别人的观点以后，再考虑他们的观点对不对，我能不能接受，如果不能，我的观点是什么。
所以，我给昨天的几个同学推荐了三本书。《艾伦•图灵传》，《Rebooting AI : building artificial intelligence we can trust》和今天的这本《Possible minds : twenty-five ways of looking at AI》。
《艾伦•图灵传》是我公众号开号介绍的第一本书。这本书可以让大家更好的了解最初的计算机智能，在图灵脑子里是什么样的。简单说，图灵对机器非常宽容的。上面的第一个问题，图灵的答案是可以接受。他说的一句话，也被我用在了推文的标题上“人类都做不到的事情，为什么要求机器做到？”推荐这本书的原因是我希望大家首先回到事情的开端，在最初的时候，领域内的观点是什么。这将有利于大家与现在的成就和观点做对照。
《Rebooting AI》是我一个月前推荐给组里同学阅读的一本书，书评我也写好了，但是一直没有发在公众号上。一个是因为最近排稿够了，没轮上。另一个是因为最近读了一些其他的书，觉得当时的观点还是有些偏颇，所以还在修。这本书的作者是做一个自动驾驶的公司CEO，不是特斯拉，另一个竞争公司，后来被优步收购了。他的观点代表了一部分产业界的观点。这本书简单一句话，就是告诉读者，他眼里的目前的人工智能有多不靠谱。回到上面的第一个问题，他的观点是不，绝不。原因很好理解，他用机器是来开车的，图灵用机器是来下棋的。下棋可以输，开车要是识别错某个路标、障碍物、警告牌、行人之类的，那代价是绝不可接受的。哪怕一万次里机器只错了一次。这本书微信图书里有中文版。
最后一本，就是今天推荐的这本，而且是强烈推荐。原因是这本书的作者不是一个人，是26个人。作者邀请了25个不同领域的大佬写了他们对目前人工智能发展的观点。这一本书，基本涵盖了圈里圈外的主流观点。这两本书都是2019年出版的，还是很有借鉴意义的。
列举这本书前三章的作者，让大家感觉下分量。大佬们头衔太多的，我就选里面的一两个。
第一章，Seth Lloyd，MIT理论物理学教授，当年给奥巴马做过咨情报告；
第二章，Judea Pearl，UCLA计算机系教授，认知系统实验室主任，贝叶斯网络模型的提出者；
第三章，Stuart Russell，UC Berkeley计算机系教授，写过一本书《Artificial Intelligence: A Modern Approach》，全球销量500万册。
考虑到这本书目前还没有中文版，我想着要不要做个二十五集的连载，把每一章的内容翻译整理下，把每个大佬的观点归纳出来，我也借机和大家一起学习下。因为里面有些内容，也是我的知识盲区，读完以后也很不太容易理解和消化。
欢迎关注我的同名公众号：郭老师的读书随想