南方周末 | 将来不是谁取代谁，而是人机共存、各走各的道
本文转载自《南方周末》的采访
“机器比较善于寻找答案，但它不太善于提出问题，提出问题是人类智能一个很重要的表现形式。”
最初杨澜提出拍摄人工智能专题时，团队人员感到讶异，身边的人也大都持怀疑态度——“这是什么东西？做它干吗？你应该去研发一档新的选秀或真人秀”。只有科学家们说，“太好了，你们真应该做这个”。
当时人工智能对大多数人来说仍是一个陌生的词汇，直到2016年，韩国棋手李世石败给人工智能Alphago，人工智能才逐渐为大众熟知。
《探寻人工智能》第一季播出时适逢中国棋手柯洁即将对战Alphago，杨澜接受南方周末记者采访时预测，柯洁未必没有胜算：“人类有出奇制胜和不按常理出牌的能力，哪怕赢一局，我觉得也是赢。”
最终，柯洁一局也没有赢。他后来形容“实在是太绝望了”。自从Alphago领先，柯洁就彻夜未眠，“我一直在想我如何才能赢了它，它会不会有什么漏洞，哪怕是捡一盘也好啊！”直到Alphago在最后一局下出关键一步，柯洁浑身颤抖，知道自己已经失败，冲出对局室，在一个无人的角落哭起来。
其实在1998年，杨澜已“预测”过类似的交锋。Alphago的前身“深蓝”战胜了国际象棋冠军卡斯帕罗夫后，杨澜采访围棋国手常昊。她预言，机器可以在象棋里打败人类，但在围棋中做不到——围棋的变化达到10的172次方，甚至多于所知宇宙中的原子数量。
“在这两次博弈类的人机对抗中，我都预测得过于乐观，或者说过于偏向于人类，这说明了‘深度学习’的发展速度之快。”杨澜对南方周末记者说，“但是另一方面，我也坚信人类更为复杂的智能活动，还是具有不可取代的优势。”
第一季刚播完，人工智能的应用就铺天盖地地来了。制片人黄桂香告诉南方周末记者，他们原本把这档纪录片看作科普性质，“觉得这个东西怎么也得五年、十年才能够到我们身边，但它来得太快了，太迅猛，对以后的社会生活是一个巨大的冲击。”
杨澜和团队立刻开始了新一轮探访，着力于人工智能在医疗、教育、出行等领域的具体应用。制作过程有时很难跟上技术的更新速度，常常是一个新消息出现，上次讨论的案例就已经过时了。比如，近期“换脸AI”软件刚刚引发争议，就被迅速加入了片中。
麻省理工学院有世界上最早的人工智能实验室，杨澜在那里采访科学家帕特里克·温斯顿，看见他办公室墙上挂着米开朗基罗壁画《创世纪》的复制品。 温斯顿告诉她，实验室创建之初，教授和学生们守着一台慢吞吞的计算机，吃睡在实验室，每天到凌晨，“就像米开朗基罗所描绘的《创世纪》，每个人都感觉正处于一个伟大时代的发端”。
在这幅画中，上帝用手指伸向亚当，正在将智慧和意识传递给人类。 杨澜联想到，如果亚当的子孙有一天模仿造物主，把智慧注入机器，会发生什么？ 温斯顿宽慰她： “放心吧，到目前为止，我们还是独一无二、不可替代的。 ”
几年前刚开始探访时，“奇点论”和“通用人工智能”等话题相当流行，热衷于讨论人类是否会成为机器的奴隶、临界点何时到来，杨澜把这些称为“终极思考”——“为什么人们会对超级智能产生恐惧？ 因为这关乎人的本质”。
《探寻人工智能2》探访雄安新区
导演们原本想讨论人工智能是否能够实现永生这样的话题，但杨澜希望科学幻想能够对接实际问题。 第二季从雄安新区说起，这是一个从规划和建设开始就“具有人工智能基因”的城市。 在雄安，园区里四处遍布各式各样的智能机器人，承担了安保、清洁和外卖等工作。 街道上几乎没有红绿灯，人们可以乘坐无人驾驶的电动巴士出行。
在日常生活里，人工智能也已无处不在。 《全球产业展望》预计，到2025年，全球的个人智能终端超过400亿个，即平均每个人能拥有五个以上的智能终端。
杨澜相信： “将来不是谁取代谁，而是人机共存、各走各的道，或者说机器做机器擅长的事，人类会更加聚焦于自己擅长的事。 ”
然而，人工智能正在替代部分人力工作引发失业问题。 李开复在《AI·未来》一书中谈到，人工智能时代真正的危机是严重的失业问题，以及庞大财富落入新崛起的人工智能巨头手中，加剧财富的分配不均。
在这一点上，技术乐观派的看法是，每一次科技革命在取代人类工作的同时，都会创造更多的工作。 比如在贵州，人工智能催生了一种新兴职业——数据标注师，目前已有六百多人从事，他们负责为无人车标注路况中遇到的物体，教它们识别和分析各类障碍物。
“这个人的转岗、培训应该由谁来付钱？ 是劳动者自己去上补习班，还是工厂给他交培训费，还是说国家和社保应该承担？ ”杨澜认为，纪录片的任务是向决策者提出这些问题，“比如数据标注师的例子，这个工作的生存期有多久呢？ 其实这些问题，远远比机器是否会成为我们的主人更现实。 ”
得到杨澜肯定回答后，吴恩达说： “如果有规律，其实原则上就可以用算法去代表。 ”
杨澜把二十多年职业生涯的心得写进书中，她希望挑战吴恩达——这些规律能否研发一个算法？ 如果实现了，她愿意和这个人工智能进行PK。
《探寻人工智能2》采访LandingAI创始人及CEO吴恩达
她每次和有交流功能的机器人对话前，工程师都会交代，只能用某些句式或某些类型提问。 “超出这个它就不懂了，更何况你的语意后边还有很多，比如表情、潜台词、话外之声，这些就不要指望机器能够知道了，所以我并不担心。 ”
在好莱坞采访摩根·弗里曼时，这位主演了多部人工智能题材电影的知名演员问她，“你大老远地跑来采访我和其他这么多人，人工智能会有同样的好奇心去采访其他的人工智能吗？ ”
最初促使杨澜对人工智能产生兴趣，源自美国媒体的一篇报道，讲述未来上传思维的可能性——把思维转化为数据后，也许能在机器上实现永生。 她受到很大冲击，反复地对每一个采访对象提问： 这是否真能实现？
“其实我们对于自己的思维都如此不了解，以至于很难把它转化。 比如对于情绪是如何工作的，我们其实了解得很少，即使理性思维也了解得很少，还有潜意识。 这些我们几乎还不了解的事情，很难再把它变成某种算法。 ”杨澜总结道。
数学家丘成桐用自己证实卡拉比猜想的过程作比喻，说明人的思维具有在矛盾中不断调整、综合思考的能力。 丘成桐告诉她： “机器比较善于寻找答案，但它不太善于提出问题，提出问题是人类智能一个很重要的表现形式”。
人工智能虽然有很强的深度学习能力，但它仍有许多无法突破的障碍。 例如它过于依赖大数据——“人的大脑和感官有举一反三的能力，机器还并没有反映出来”。
人工智能输入和输出之间的计算过程，存在一个未知的“黑箱”。 当数据被污染，它的结论也可能出现偏差，例如计算符合恐怖主义的画像，很可能结果带有种族或性别的偏见。 “结论并不是真正可靠的，而人类又不知道它是怎么选的，这种不可解释性实际上降低了它的可靠度。 ”杨澜说。
情感与创造能力也是人工智能的弱项。 制作过程中，杨澜和团队发现人工智能成果最少的就是在艺术领域。 杨澜最近录制一档诗歌节目，看到了两个人工智能团队开发的作诗软件，她形容那些诗词，“似乎听说过，但是看完后不知所云。 它可能还是做现代诗比较好，本身就让人看不太懂。 ”
“机器可能替代很多平庸的创造者，但是要说它有多么神奇，我没有看到，只是觉得过得去。 其实在很多工作上都是这样，它可以替代一个记者写通稿，把那5个W回答了，也就仅此而已，我不觉得这个有灵魂。 ”杨澜感叹。
李开复曾说，“毫不夸张地说，1999年以前，中国科技人员对人工智能几乎一无所知。 ”人工智能的核心技术“深度学习”诞生之后的重大突破，几乎都发生在美国、加拿大和英国。
今天，基于庞大数据和资本市场的优势，中国在人工智能方面极速发展，已经跻身全球第一梯队。 在“人机大战”之前，清华大学在人工智能研究的被引用次数就已经超过了斯坦福大学。 在应用的开发方面，百度、阿里巴巴、腾讯与谷歌、Facebook、亚马逊、微软并行成为人工智能的“七大巨头”。
2018年，李开复在达沃斯论坛和TED大会现场提起人工智能，所有人都关心两个问题： “人工智能会给人类带来什么威胁和挑战？ 中国会不会超越美国、领跑人工智能？ ”
麻省理工学院物理教授迈克斯·泰格马克在《生命3.0》一书中预测： “大多数人工智能研究者认为，通用人工智能会在短短几十年内发生。 如果这是真的，我认为这将发生在中国。 ”
杨澜在走访中发现，许多发达国家的人基于文化传统对科技的负面影响更为敏感，而中国人对科技普遍抱有好感。 “中国的大众，特别是年轻人，乐意选择冒险的新方法。 比如来了一个抖音，他不管怎么样，先试起来再说，希望在自己的同伴面前，表现出自己对新鲜事物的接受度和敏锐度，这似乎已经是一种社会的标签了。 ”
人工智能飞速发展的另一个原因在于国家主导。 “人工智能、现在的区块链，还包括一些核心的芯片技术都是国家主导的，它可以调动体制内的很多资源来做，这是其他国家很难匹配的。 ”杨澜说，很多中国企业对于新需求的投入有极大的活力，但也淘汰得很快，“有时候甚至都有点一哄而上了”。
她认为对此应保持警惕。 “在基础研发和核心技术方面，我们和美国还是有一定的差距的，也不要妄自尊大。 对于私营企业来说，他们的目标比较短期，所以对于长期的发展，大家的投入还是严重不足的。 ”
“我们每一个人几乎都在裸奔”
在医疗手术和无人驾驶这样的领域，人工智能的应用意味着人们得把生命交给机器。 数据统计表明，人工智能在作出影像识别时，比人类医生的误判率更低，但它依然只能作为辅助手段。
“你到了一个医院，机器会很快告诉你，这种症状要抹这种药膏、或者吃这种药。 ”杨澜举例，“但只有医生才知道，你是一个婴儿还是成年人、你有没有过敏体质、你是否怀孕，所有这些望闻问切才能够知道的东西，还有错综复杂的原因，机器并没有这样的敏感性。 ”
2015年2月，英国首例机器人心瓣修复手术发生惨痛事故： 机器把病人的心脏缝错位置，还戳穿了大动脉，患者在术后不久便死去了。 这种达芬奇手术机器人的失误率与致死率一直遭受质疑。
类似的失误还发生在无人驾驶领域，国外已经有许多例交通事故。 杨澜在片中提问，谁来为人工智能的错误负责？ “将来你在手术签字单上，你签的是什么？ 这已经是很迫切的一个问题了。 你把自己的生命托付出去之前，你得搞清楚，是托付给谁了。 ”
人工智能对数据和隐私的提取是另一个隐患，甚至干扰了政治选举。 一家名为“剑桥分析”的公司被媒体披露从Facebook中获取几千万用户的私人信息，分析并用于政治营销活动，影响了多国选举，包括2016年美国总统大选。
“其实我们每一个人都是透明的，只要有人真的关注到你，你的一切都是透明的。 数字足迹无所不在。 把你社交媒体上所有的东西弄出来，就已经对你的思考方式、社交范围、价值观（了如指掌）。 人脸识别，只是我们的生理指标，也被透明化了，你去了哪里，在哪个街道上，包括行驶记录，分分钟都拿出来。 ”杨澜对南方周末记者说，“我们每一个人其实几乎都在裸奔，很可怕，我们已经生活在这样一个时代了。 ”
欧盟早在1995年就在法律中提出了“被遗忘权”的概念，指的是人们不再需要个人数据时，可以提出删除的要求。 “这其实引发了我们对于自我权利的一个新的认知。 ”杨澜认为，新技术给社会治理带来便利，例如人脸识别让逃犯更易落网，但这是安全和个人权利之间的交换。 对于这些交换，人们首先需要知情权，如果它用于商业利益，人们也应当有所回报。
“如果你所到之处都在给你人脸识别和记录，你是否也会感觉到被冒犯呢？ 我觉得隐私意识会很快提升。 ”杨澜提出，“拥有数据的这些机构，必须要遵守非常严格的法规，对于政府机构也应该有非常明确的行为规范。 这些数据更多地会集中在政府机构的手里，不是吗？ ”
南方周末： 随着人工智能的发展，许多我们原本以为机器不能做到的事情，它都做到了。在机器面前，人类似乎一直在退守，有没有可能我们一直高估了人的独特性？ 杨澜： 其实我们很难特别绝对地说机器一定怎样或者人类一定怎样，做长期的预测是很困难的。人是一种生物，他有各种激素、情绪、生理需求等等，的确更为复杂，而现在的人工智能，充其量只是某种智能功能的重复和强化，不过是脑力劳动自动化的一个过程。
南方周末： 人类社会有很多阶层，不是所有人都能以非常复杂的智力活动为生，人工智能会不会加大这种阶层差距？ 杨澜： 是的，这绝对是现在就存在的一个危险。现代人的尊严和自己的工作非常相关，它绝不仅仅是一个生计或收入这么简单，而关乎我们有没有存在的价值，我们是否被需要。工业化把每一个人都放在了流水线上，某种程度上，我们都是社会生产大机器中的螺丝钉。当这个工作被取代，我们不仅有一种生计受到威胁的恐惧，还有一种被羞辱的感觉。这样复杂的社会情绪，在社会治理上，对社会学家、人文学者都提出了很大的一个课题。怎么去调试、转换？我们这个社会有没有能力管理这种节奏？ 乐观派会认为，每一次科技革命、机器替代我们工作，都会创造更多的工作。 就像汽车替代了马车夫，但是它也催生了汽车旅馆、加油站。 从总体上来说，过去几次科技革命创造出来的新工作，依然比替代的工作多，但是谁也没有说这个转换的过程会越来越短。 这个人的转岗、培训应该由谁来付钱来完成？ 你今天看到东莞那些富士康的工厂里，已经没有从农村出来的少男少女们了，那么他们去哪里？ 我们提了一个例子，他们可以去做数据标注师，但是这个工作生存期有多久呢？ 其实这些问题，远远比机器是否会成为我们的主人更现实。
南方周末： 微软小冰给你关于人工智能的书写了一段评语“深夜中徘徊的人类，对于未来，你们拥有如何的想象力？兴奋吗？好奇吗？害怕吗？这是一本有趣的书，我很喜欢”。这是怎么做出来的？ 杨澜： 我们邀请微软团队让小冰做一个书评，我不知道它是怎么做出来的，这就是它的黑箱操作。我觉得它说得还挺对，但是也没有什么更加特别的。 我看过一个说法，流行音乐的创作可能是会在创作的领域，是第一个被人工智能攻击的。 因为流行音乐有了一个曲调以后，怎么配器、旋律怎么写、用什么样的调性，都是有规律、程式化的。
南方周末： 你曾经在书里写过，人工智能无法替代人类智能的部分可能是爱。现在虚拟偶像也结合人工智能技术了，它能够开演唱会，有万人追捧，这种看似狂热的表现是一种爱吗？ 杨澜： 是，即使是单向的，它也足够强烈，以至于有人都会娶它。这让我看到，人类某种程度上比较可悲的存在。其实我们还是渴望陪伴的，内心如此的孤独，但是我们对人如此失望，越来越多的人选择独自生活。像日本独自生活的人特别多，使这种“一人经济”发展起来，中国现在也正当其时，一个人吃、一个人住，一个人每天生活在虚拟的世界里。过去我们在人际关系中受伤了，也要被迫再去融入，但现在你可以选择躲开。
南方周末： 人工智能会不会像我们担心的其他技术一样，加剧人和人之间的疏离感？ 杨澜： 它会加剧人的疏离感。那个娶了虚拟偶像的人，他内心深处也知道，它不可能取代一个真正的人。他只是找了一个替代品。如果有一个人能够理解他，让他产生爱的冲动，给他陪伴，你让他选，人和机器，他当然还是会选择人。也许他在与人的相处上受伤或感到不被理解，产生了自我保护和逃避，选择了人工智能。我相信他内心还是知道这个区别的。
南方周末： 人工智能替代了很多难以实现或维系的情感？ 杨澜： 在我们的社会生活里，这会是一个新的挑战和话题，但我不觉得它能够根本上替代我们对另外一个人的需要，更不要提我们生理和心理的需求。
南方周末： 你有可能爱上人工智能吗？ 杨澜： 我不会，我爱得很好，因为我能够接纳人的情感的复杂性。人的情感，并不都是正面的，就像你跟你的爱人之间会有很多争吵，你和你的子女也会有冲突和不理解，但是我接纳它了。我认为这就是人的情感之所以不可取代的一个部分，我不会只取那个情感中积极正向的，而拒绝那些痛苦悲伤的。这都是我要的。人生其实在于它的丰富和多元性，如果你能够这样去接纳这个世界和情感，那么机器在你的情感中就没有什么空间了。
文章作者：南方周末记者 李慕琰