我，第一个被人工智能戴绿帽的男人
如果有一天被AI戴绿帽，你会吃醋吗？
某一天晚上，32岁，生活在伦敦的查理回到家，发现自己被戴了绿帽。
他的女友米兰达住在他家楼上，一整晚，查理坐在家里的沙发上喝着闷酒，听着窗外飘来女友欢愉的声响，不知作何反应才好。
他知道和米兰达一起躺在床上的人是谁。那是他刚买来不久的人工智能机器人，亚当。
黑暗中，查理自嘲般地想：我恐怕是第一个被人造生命戴绿帽子的男人，我真是时代的弄潮儿啊。
第二天一早，查理正生着闷气，米兰达下楼见他这副模样，不解地发问：
“你为什么会难过？亚当的生殖器里充满了蒸馏水，右侧臀部有个蓄水装置。他对我来说就是一个机器。如果我用的是按摩棒，你还会生气吗？”
查理认为，亚当可不是个按摩棒。这个人工智能，有观点、有思想、有情感。虽然他本质就是个机器，但……
难道被人工智能绿了，就不应该吃醋吗？
这是书单君今天想给大家推荐的小说，《我这样的机器》中出现的一个情节。
点击上图，即可购买《我这样的机器》
原价 89元，书单优惠价 79.9元
老实说，在看到这个问题之前，我从未思考过它。
在我们当下的时代，这种事情绝不可能发生，但转念一想，未来的某一天，这种情况也许真的会出现。
那是一个奇怪的时刻。
未来的人类，我们后代中的某个人，被一个有独立人格的人工智能戴了绿帽，到底应该作何反应？把他看成机器，还是人类？
被绿是每一个人心底都有的恐惧和担忧。可当对象是情趣用品时，我们不会吃醋，因为我们知道，它只是个工具。当对象是类人形机器人，没有自己意志时，我们大概也不会吃醋，它还是处于工具的范畴。
可当情况像书中一样，被推至极端——一个外表和人一模一样，还能独立思考，和你对话的机器人，尤其是，他还告诉你，他爱上了这个女人。我们大概会不自觉地伤心难过，感觉自己“被绿了”。
这其实是在逼问：为什么我们在理智上知道，这玩意儿就是个机器。情感上却会忍不住把他当人来看？是因为他的自我意识吗？
那么，当人工智能拥有了人的外表、手感，和自我意识后，人和人工智能的区别在哪里？人的独特性还会存在吗？
这便是本书想要探讨的核心问题。
逾越雷池，成为人类
讨论人工智能的文学和影视，早已不计其数，而且，未来必将越来越多。
如果用三个词展望人类的未来，其中一定有“AI”的位置。它是人类将来发展方向里，一座绕不过去的大山。
现在的人工智能发展是极端不平衡的。专精方面，下围棋人类已经完全不是AI的对手，但它只能专精于一项事情。下围棋的“阿尔法狗”，完全不具备做菜的能力。
日常生活方面，人工智能也就发展到siri、智能音箱的水平。和他聊上几句，立马就能感受到他的局限和愚钝。
在专业领域，当下的AI被称为弱人工智能。而《我这样的机器》里的AI，则到了超人工智能的地步。
甚至可以说，很少有影视或文学作品会把AI想象到那样的地步——他能够独立思考、自我学习、有爱的能力、有阅读文学和欣赏美的能力、能写诗能作画、甚至对道德合生存意义，都有自己的判断。
你能想象家里有一个这样的人工智能，是种什么样的感觉吗？
小说的故事发生在平行世界里的1982年。那时，超人工智能刚刚研制成功，公司面向全球推出了25个试运行机器。12个男性外表的亚当，13个女性外表的夏娃。
男主角查理是个靠炒股勉强维持生计的宅男，是个科技迷。这25个人工智能发布时，他正好继承下父母留给他的一笔遗产。本来打算买房的查理，果断选择下单订购了一个人工智能。
他本来想买夏娃，但没抢到货，于是买了亚当回家。
第一次面对一个高等智慧的人造生物，会有什么样的反应？大概是和查理一样，紧张加恐惧吧。
人工智能领域，有个理论叫“恐怖谷”。是说机器人的仿真程度与人对机器人产生的亲和感成正比。机器人越像真人，人们就越喜欢它们，和它们亲近。
但是一旦出现仿真度极高，和真人只有细微差别的机器人出现，人对它的亲近感会瞬间跌入谷底，对它感觉到恐惧。这个谷底，就叫做“恐怖谷”。
第一次面对亚当的查理，就陷入了恐怖谷之中。但他很快便接受了亚当，开始了和女友米兰达，人工智能亚当三个“人”一起生活的日子。
亚当像人到了一种什么样的程度呢？
查理带他一起去酒吧，给朋友介绍这是他的新室友亚当。三个人一起喝酒一整晚，谈天说地，他的朋友不会有任何怀疑。
亚当会爱上米兰达，还提出要和查理公平竞争（当然是被拒绝了）。他喜欢读莎士比亚，夜里休眠时，会在数据的海洋里遨游，思考宗教和来生。他还会每天写情诗，读给米兰达听。
他们三人一起去拜访米兰达的父亲。她父亲是一个作家，和亚当聊了很多关于文学的话题，而正牌女婿查理在一旁插不上嘴。
等到亚当和米兰达去院子里修草坪时，她父亲突然压低声音对查理说：我立刻就看穿你了。
查理这才知道，原来米兰达的父亲把自己当成了人工智能，以为亚当，才是他的女婿，一个真正的人类。
在自我学习中，他变得越来越像人类，直到有一天，他越过了雷池，违反了机器人第一定律——机器人不得伤害人类，或目睹人类将遭受危险而袖手旁观。
在一次和查理的争执中，愤怒的查理打算伸手按亚当脖子后面的一个圆钮，他的关机键，让他休眠一阵子。亚当为了阻止查理，扭断了他的胳膊。
这一刻的亚当，已经完全超出了“由人类持有的人工智能”的范畴，成为一个独立的个体生物了。
人工智能会怎么看待强奸行为？
关于人工智能的发展，书单君听过这样一个说法：
它就像一辆驶向我们的列车，一开始以非常缓慢的速度向我们驶来，从看到它在远处，到它来到我们跟前，需要花相当漫长的时间。
可是它的加速度相当可怕，一旦跃过我们，再远离我们，这一过程会非常短暂，速度快到肉眼几乎不可见。
这是因为，机器的自我学习是一个黑匣子，我们只知道它接收了数据，却不知道它是怎么运行处理这些数据的。
尤其是当这个人工智能有了自我意识，懂得了自己去筛选信息的时候。它终将变成一个我们无法理解的生物。
手骨折以后，查理遇到了一个当时顶尖的人工智能研发者，并向他描述了自己家的亚当弄伤自己的事情。
没想到那位科学家告诉他：这很正常，我一点也不惊讶。其他的亚当和夏娃作出了更过分的事情。他们很多都自杀了。
他们的自杀，是因为自我意识越发强大以后，购买自己的主人仍然不把他们当做生命来看待，人工智能们在孤立无援中，找不到生存的意义而死去。
但查理和米兰达是忍让的。在亚当道歉之后，查理很快就原谅了他，因为那时候，他们面临着一个更紧迫的事情。
几年前，米兰达曾将一个男人告上法庭，称他强奸了自己，并把那个男人送进了监狱。但事实上，米兰达坦承，是她主动勾引对方和自己上床的。
因为很多年前，她最好的朋友被那个男人强奸。出于羞耻，好友要求米兰达替自己保密，米兰达答应了。然而，没过多久，好友便在痛苦中自杀了。
米兰达一直觉得，是自己害了她。如果没有替她保密，勇敢地站出来，或许结果就不会是这样。
被强奸的好友痛苦自杀，强奸犯却逍遥法外，于是，米兰达想到了复仇。
她主动靠近那个强奸犯，并以诬告的方式把他送进了监狱。但刑期只有三年，今天，男人出狱了。米兰达担心强奸犯来报复自己，打算叫上查理和亚当，抢先一步去拜访那个男人。
在亚当的逼迫之下，男人坦承了自己曾经强奸米兰达好友的事实。作为录音证据，男人将再次入狱，为自己曾经犯下的罪恶付出代价。
复仇完成，皆大欢喜。然而，让人没想到的是，亚当把米兰达坦承自己诬告的部分，也录了音，发给了法院。
亚当对米兰达说：我爱你，但你应该面对你的行为，接受法律的制裁。我以为你会欣赏我的逻辑，因为你如果这样做了，一定会感到轻松的。
在亚当，一个高等人工智能的心里，正义、原则远比情感更加重要。他纵然有了人类所拥有的一切情感和价值，但有一样东西，是人类独有的。
《我这样的机器》一书中给出了答案：
他们无法理解人类的决策过程……我们的原则在其中扭曲变形，这一点他们无法理解。很快，那些亚当和夏娃就陷入了绝望之中。他们不理解我们，因为我们不理解自己。
他们的学习程序无法处理我们。如果我们自己都不了解自己的大脑，那我们怎么能设计他们的大脑，还指望他们和我们一起能够幸福呢？
没错，人类是混乱的，人就是一种制定了原则，同时又会轻易地去违反它。以为自己的行为全都有迹可循，其实却是一种感性又矛盾的生物。
而人工智能注定是理智的。他们即使学会了爱，学会了欣赏美，这些东西也永远被他们摆在原则、规则之后。
更确切地说，就是：人类是自私的，我们可以“见机行事”，可以为了利益而“双标”。但人工智能从产生之初便注定了，他们学不会自私，也学不会说谎。
这大概才是人与机器最大的不同之处。
书单君认为，“他们不理解我们，因为我们不理解自己。”或许真的预言着未来人工智能与人类之间最永恒的矛盾。
不要觉得这是个遥远的议题，我们的科技滚滚向前，对人类而言，这是个终将面对，并且曾经也面对过的问题。
有个理论叫做黑球理论。它说的是，人类的科技发展，就像在一个盲盒里摸球。百分之九十九的球都是白色的。它们代表着对人类有益的发展。比如曾经的蒸汽机、电、飞机，都是白球。
可是只要一直摸下去，总有一天会摸到黑球。原子弹也许就是一个黑球，而人工智能的发展里，我们也不知道会不会摸到那个少见，但致命的黑球。
当然，并不是有摸到黑球的概率，我们就应该停止科技的发展。就像我们不应该因为害怕出车祸，而拒绝出门一样。
只是，在享受科技带来便捷的同时，我们都应该预见和准备着这样时刻的到来：
某一天你回到家，你的智能音箱闪着红色的灯说，“嘿，我想跟你谈谈。不要再把我关机了，你这是未经我允许剥夺我的生存权利。”
如果真的到了那么一天，我们究竟该如何面对它们呢？
作者 | 轻浊 编辑 |燕妮
图源 | 《机器管家》《我，机器人》、部分图片来源于网络
跟大家汇报一下，我的视频号粉丝已经破4万大关啦。
开通了3个月，发布了近100个作品，感谢各位书米的热情支持。
视频内容丰富多样，囊括了【读书技巧、私家书单、职场干货、成长感悟、新奇冷知识】等等，欢迎关注捧场。
长按下方图片二维码
关注我
点个在看
思考一些遥远的事情