复旦哲学教授郁喆隽：总担心人工智能，人类到底惧怕什么
郁喆隽 | 复旦大学副教授、复旦大学哲学学院/德国莱比锡大学哲学博士
活动：2016年6月30日 复旦哲学微课堂，笔记侠作为合作方，经活动方审阅授权发布笔记。
笔记：笔记侠 篮子深度好文：3736字 | 4分钟阅读
导读：人工智能与人工哲学又有什么纠葛？为什么暂时不用担心人工智能这方面的影响，而更多的担心来源于VR？人工智能后我们是否需要反思我们的生活方式？
完整笔记
我们会不会爱上机器人？
《her》是一部用科幻包裹的言情电影，讲述了一个宅男爱上自己电脑操作系统的故事。操作系统能配合男主角的情绪作出不同反应，男主角对操作系统逐渐依赖，与它分享情绪与私密的话题。这部影片就涉及了人工智能的自然语言处理部分，已经可以在生活中见到，如iPhone中的siri、win10的cortana。
人工智能涵盖很多方面，如逻辑推理能力、学习能力，如谷歌自动驾驶对环境的观察与处理能力。电脑的能力很强大，但在自然语言处理部分仍有很多缺憾。小小的对话，需经过语音识别、人声转化、逻辑运算等环节，对于程序而且仍太过复杂。
《超体》剧照
近几年来人工智能的发展，引发了人对人工智能爆发的诸多担忧，此主题在电影中也有诸多表现。如好莱坞大片《我，机器人》、《超体》、《终结者》、英剧《真实的人类》等。
在生物演化中，出现了智能生命体——人。人的大脑与计算机的根本区别在于电脑有中央处理器cpu，大脑并无。人的大脑本质上是蛋白质，却为何具有了产生智能生命的能力？本质上是人自我认知的问题。
人工智能与哲学的纠葛
伴随着人工智能的发展，哲学也发展出了相关的分支。先有人工智能技术，再有人工智能哲学。但在哲学看来，太阳底下并无新鲜事，只是换一种形式呈现。
17世纪哲学家笛卡尔就在他的书中谈论了智能与智力的问题，提出的背景是在整体机械化认识时，人的身体可以做出各种各样的自动机，远超过其它动物，那么人即神造的机器。他坚持物理与精神的二元论，人制造出的布谷鸟的钟，所有的动作蕴涵在机械内部。
笛卡尔将人造的自动机与人本身相比，大胆设想人能制造出某种机器吐出几个字回答人，却不能明白人的意思。他认为人不仅有肉身、情绪，还有灵魂，而机器无法做到与人类似的反应，根本在于机器缺少灵魂，即哲学中的身心灵二元论。
在笛卡尔看来，人能精准使用语言，而机器只能做预先规定的行动。这样的问题在哲学史上陆陆续续提到，直到20世纪艾耶尔在他的书中提到“人与机器的区别在于可知觉的行为的不同类型之间的区别”。他认为判断机器是否有意识，需通过经验的检验。若说无意识，则必须做出机械预先规定好的行动。
图灵测试
到二战之后，图灵的论文《计算机器与智能》中提及“智能”一词，他的个人经历被拍成了《模仿游戏》。有人评价图灵用一人之力，将二战的结束提前了1～2年。
图灵提出了图灵测试，将艾耶尔的测试论具体化，图灵测试的本质就是模仿游戏。模仿游戏的意思为机器与人类对话，未被发现机器身份，则认为该机器具有智能。在两个房间内，分别放着一台机器与一个人，你在未知的情况下对他们提问，而辨别不了他们中机器的身份，则认为机器具有智能，通过了图灵测试。
图灵测试在20世纪50年代提出。在2014年6月，图灵测试已被打破。也有很多人质疑他的成功，因为测试机器人的身份被设定为乌克兰的13岁男孩，他外国人的身份与年龄会让评委产生错觉。没想到图灵测试被打破的速度这么快，就在我们身边发生。即便聊天程序通过图灵测试，在人看来还是挺笨的。从哲学角度，也有不少科学家对图灵测试本身存在质疑。
1980年，约翰·塞尔在他的论文《心灵、大脑与程序》中提出一个思想实验，名为“中文屋”。假设塞尔不懂中文，被关在“中文屋”，外面的人通过中文来提问，塞尔要通过屋内的工具书来回答。外面人打了四个字在屏幕上“恭喜发财”，塞尔通过查字典明白意思，再从工具书上找出回答，通过输出端传达至外面。
塞尔设计实验的原因是反对强人工智能，他认为即使程序具有模仿人类行为的功能，也不具备心灵。塞尔认为只有一种机器是可以思维的，即人的大脑。
塞尔将一些人对于他实验的回应收集起来，有人认为实验中不懂中文的人与中文屋的系统组成了系统，系统能读懂中文，其中的人并不会。每个部分都不理解中文，但结合起来就能理解中文。
另一种回应叫“他心”，你与一个人沟通时，你怎么能明白那个人是能读懂中文的呢？每个人只能感受到自己的心灵，我们认为他人也拥有心灵不过是个人的类推。如“子非鱼安知鱼之乐”，此种说法也很容易导致“唯我论”。
人工智能哲学能帮我们理清一些问题。关于伦理，在《AI》中，当一个机器的行为模式与人高度接近，我们清楚知道它的内部与我们不一样，但却拥有与人相同的智能情感，是否能认为它与我们有同样的权利？假设在法律上能赋予机器与人工一样的权利，当我们在关闭人工智能时，是否会出现伦理问题？
我们也担心人工智能会伤害人类，阿西莫夫在小说中提出机器人学三定律：
第一法则:机器人不得伤害人类，或坐视人类受到伤害；
第二法则:除非违背第一法则，机器人必须服从人类的命令；
第三法则:在不违背第一及第二法则下，机器人必须保护自己。
《机械警探》中让机器人去打击犯罪，明显在违反第一法则。
阿西莫夫又添加了第四定律“机器人必须保护人类的整体利益不受伤害”，机器人又怎样理解人类的整体利益？其中还是有很多问题。怎样从语义方面回复到程序方面？让机器人辨别鸡蛋，并且不能踩，需要添加许多常识如“蛋壳是易碎的”“玻璃也是易碎的”等。要让机器人理解鸡蛋是鸡蛋，需要海量的常识库。
暂时不用太担心人工智能在这方面有所突破，更多的担心来源于VR。
另一种来质疑图灵测试的方法，人工智能学习的内容呈指数级增长，它故意不通过图灵测试，它撒谎了，那怎么办？
人工智能带来的反思
人工智能亦给人类带来“造物主的烦恼”，如夏娃亚当在伊甸园的故事，是否面临失控的烦恼？
如果人工智能的处理能对每个人都说不一样的话，是否能让人愿意与它沟通甚至恋爱？是否我们的生活本身十分贫乏，缺少与人沟通，所以才出现自然语言沟通的人工智能？是否我们要反思我们的生活方式？
通过人工智能，我们也可以来思考一些问题。究竟什么是人？究竟人的特殊性在什么地方？人在宇宙的地位又如何？人与禽兽的不同又在哪里？
题外话：
最尖端的科技会被用在国防与色情领域，VR（虚拟现实）产生新兴领域 virtual sex 。人类对于自己欲望控制非常低，VR SEX 对人类生活方式带来许多改变？对生育率又有什么影响？
往往对我们产生影响的不是最前沿的，而是与自己生活息息相关的科技。如电脑游戏，人们不会认为它有吸毒版的危害，但通过VR呈现后，又将带来什么影响？
问答交流
◆◆◆ ◆◆
Q1：人工智能如何改变生活？
A1：当我们沉溺VR（虚拟现实）后，谁来替我们干活？人工智能会组成没有道德层次的劳动者服务我们的生活吗？
在《humans》中提出社会伦理道德问题，人不干活，机器来替我们干活。人不干活，资金来源从哪里来？机器人比人的使用成本更低，人又是否能找到工作？也不禁让人反思，人区别于人工智能中最大的特点是什么？人类依靠人工智能生活，人类文明又如何推进？
有一个词“超人类”，人的某一部分能被机器替代，当你的身体被机器替代到百分之多少时，还能称之为人？这些改变是否会对人类本身带来撕裂，又或者移居到外太空，人是否会使用一些机器部件，改进自己的身体？这一切的改变，我们无法知道。
Q2：老师，你认为智能的奇点（奇点是未来的一个时期：技术变革的节奏如此迅速，其所带来的影响如此深远，人类的生活将不可避免地发生改变。奇点临近暗含着一个重要思想：人类创造技术的节奏正在加速，技术的力量也正以指数级的速度在增长）是否会到来，人类是否会消亡？
A2：当奇点来到时，我们如何知道？有本书上提到，当奇点来到时，机器人会有几个选择：把人全部灭掉，因为人在地球上的生活太耗费能量；通过装傻的行为与人共存。只能通过想象的方式来进行判断，我们需要有一个检验的方法与标准，要定义什么是人工智能，不然奇点是否到来我们都无法得知，我们谈论的只是可能性。
Q3：人类的智能中包括对于“自我”的的认知，而这种自我认知主要通过和不同社会关系所感知，人工智能是否会走到这一步从而形成真正的“人格”？
A3：人类对自我的认知是第一人称，任何其他人都无法直接感受。我们通过语言来转接信息，语言是公共性的东西，但感受通过语言传达必有减损。
Q4：人类具备文化的根本在于具有创造力，那么智能是不是可以以创造力来定义？
A4：什么是创造力？有个程序通过固定算法能将照片转化成不同风格的画，它是否具有创造力？彭博社用程序生成股市新闻只需一秒，无人发觉。有个教授通过程序回复学生的提问，一个学期后，学生无人察觉。只要程序抓取关键信息，能将有效信息回答即可。
Q5：老师，人工智能会不会通过几亿的过往的行为的程序加载，从而分析出最好的答案，与人类交往，甚至成为最完美的外交发言人？
A5：可以成为好的发言人，但人工智能对真善美、好的认知没有认知。
Q6：人类是不是也是“基因”制造的基因“智能”机器？有人把基因和人的关系类比为人和超级智能机器人的关系，老师如何看？
A6：举例，给智能机器编写基本定律：使某人安全冬眠装入机器，延续一百年后唤醒。这过程中，这个人是不是就是机器里的“基因”？
可以做基因类比。基因变化过程十分缓慢，智人与人只差一个剪辑。人工智能通过学习，是否能通过信息存储对下一代升级产生影响？我曾与一个科学家对谈，机器与人的差别在哪里？我认为有两点：
人有意图、目标，机器没有具体身体，不会产生具体意图。人有意向性，当我们的思想在谈论某件事，指向某个对象；机器做不到，无法产生持久的关联。从哲学角度来谈论，这两点可作为切入点。
我认为如果人工智能能够达到情感上特征匹配的程度，即只会钟爱某一个人，具有排他性和唯一性，就解决了人在情感方面痛苦的问题，这种能满足人在精神上对“忠诚性”需要满足的机器人如果出现，可能会对人类社会产生冲击，因为这是人类的弱点和强烈矛盾冲突的问题。
因为恋爱会耗费人类很大的资源，通过人工智能替代恋爱对象的需求可能很大，这样之后，人类社会又是否会走向终结？
主办方介绍：复旦大学哲学课堂，亚洲顶级思想课堂，由复旦大学哲学学院（亚洲第一全球十七）主办，汇聚全球顶尖思想文化，致力于打造世界领先的哲学思想课堂。复旦哲学课堂，思想引领时代！（微信公众号：哲学课堂，ID：p-class）
点击获取：独家音频内容|跟着大咖去耶鲁游学，和全球顶级教授探讨
哲学家王东岳：人类文明是人类的不幸？
［招贤纳士］
新媒体合伙人、总编辑、编辑、主笔
产品经理、新媒体运营、首席视频官
商务BD、平面设计、漫画师、文案策划
简历请发至[email protected]
点击大咖名字，查看精彩笔记
李善友丨傅盛｜余晨丨龚焱丨徐新丨 阎焱丨俞敏洪丨李丰｜蔡文胜丨段永朝丨罗振宇｜罗胖｜吴伯凡｜宗毅｜吴声｜伊光旭丨李欣频｜王东岳...
合作伙伴：混沌研习社｜创业邦｜领英中国｜36氪｜腾讯｜京东｜正和岛｜中欧｜微链...