李开复对话Yoshua Bengio：构建AI与人类社会的良性循环

7月23日，我受邀参加SGInnovate主办的“深度科技（Deep Tech）造福人类”活动，与Element AI 联合创始人Yoshua Bengio教授对话。

Yoshua Bengio教授是深度学习三大发明人之一、2019年ACM图灵奖得主。他长期致力于推动AI的合理使用，尤其对用AI解决环保议题有很多投入，如使用新药研发的AI算法概念，延伸应用在发掘全新低污染材料以对抗全球气候环境变化的艰巨挑战，显示出用技术让世界更美好的科学家底蕴。

对话中，我们探讨了AI对人类社会的意义，尤其在新冠肺炎疫情后时代，AI如何帮助未来的经济社会更加富有弹性、宜居和可持续。

我们认为，AI是一个千载难逢的机会，人类得以真正从重复性事务中解脱出来。在 AI 的帮助下，我们将有希望希望建立一个明智、理性、包容的社会，构建人类社会与AI的良性循环。

以下是我们对话的文字记录和视频。

与Yoshua Bengio教授对话完整版视频
对话嘉宾：

深度学习发明人、图灵奖得主Yoshua Bengio教授

创新工场董事长兼首席执行官李开复博士

深度学习2.0时代，提升机器理解和执行能力 话题1：AI技术的下一个突破，以及如何加速AI科研到应用
“接下来的研究虽然繁重，但新的进展会令人振奋。尤其是在深度学习领域，我称其为‘深度学习2.0’。” ——Yoshua Bengio
Yoshua Bengio ：第一个问题我非常有共鸣，在我看来，目前机器学习的一大限制，是学习系统的泛化能力。
过去几十年研发的系统，都建立于一个假设，即默认测试数据与训练数据有相同的数据分布。
然而在现实世界中，无论在什么行业应用，都会存在实际情况与AI训练时不同的问题。
这一问题看起来无解，但目前我们找到了几个突破点和想法，主要是借鉴人类的意识加工机制，对原本分散的知识积累，快速进行全新重组。
虽然这些知识的组合不一定遵循训练数据分布，但我们还是能从中获得某种重组方向的优势，从而在训练分布中进行更好的归纳。
接下来的研究虽然繁重，但新的进展会令人振奋。尤其是在深度学习领域，我称其为“深度学习2.0”，它能吸收人类的归纳倾向，对数据分布算法进行泛化。
李开复 ：我借 Bengio 教授的观点多说几句。我从大学时期就开始着手会话式 AI 的研究。目前的人机界面，我称之为委托界面，大多基于直接操作，如键盘、鼠标、多点触控等。
但语言是人类最基本的交流方式，也是最自然的交流途径。向AI语音识别、自然语言理解进军，一直是我们孜孜以求的目标。
例如，以前我们使用搜索引擎时，会通过输入关键词来查找网页。后来，谷歌带来了新的突破，基于深度学习的智能问答功能，可以直接让机器“说”出答案。
但我们不应止步于此，而是应该继续向下一步目标努力：通过深度学习的进一步研究，提升机器对人类指令意图的理解和执行能力。
例如，我们是否可以直接向亚马逊 Alexa发送指令：“给我妈妈送个生日礼物”。之后，它将自动理出头绪，浏览礼物，安排配送。它了解我的个人喜好，知道我能接受的价格范围，也知道我妈妈是谁，住在哪里，想要的礼物是什么。

Yoshua Bengio ：关于AI的行业应用，我做个简短分享。我认为这是个很有难度的议题。困难来自两方面：一是社会方面，二是技术方面。
在社会方面，从基础科学研究，到最后产品研发阶段，需要共同营造一种文化，让研究人员可以拥有研究自由，从而取得真实的突破。在技术方面，我们需要一些软件工具，让技术从研发到生产这一转化过程，尽可能的高效快速。
李开复 ：AI的行业应用，我将之分为两大类：颠覆式和渐进式。
颠覆式是指引入 AI 会对行业造成颠覆性的结果，带来天翻地覆的改变。
例如，自动驾驶将彻底改变运输行业；Alexa某种程度上正在改变音箱行业；新的互联网保险应用，比如美国的Lemonade、中国的水滴公司，极可能颠覆保险行业。
这些行业已经具备了一定的条件，让行业专家通过 AI 带来颠覆影响，让人非常期待。当AI与行业的颠覆式创新两相结合，将有机会击败行业巨头，重整行业格局。
然而颠覆式只是冰山一角。在人工智能带来的巨大机会中，渐进式变革占据绝大部分份额。
普华永道预估，人工智能将在2030年给全球带来15万亿美元的财富净增，主要来自于传统行业和AI的结合。由于传统行业规模庞大，仅仅提高几个百分点，就可以产生海量财富。
但困难在于，当前一些传统企业对 AI 一无所知，他们以为AI是科幻小说的臆想，看不到即刻就能产生的收益，再加上技术工具太难使用，导致他们的 IT 部门无法驾驭。
因此，我们应该通过培训，帮助传统行业接受并认识到AI的益处。同时，我们投资的AI企业或像 Element AI 之类的公司，需要帮助传统企业找到简单易用的工具，让他们跨越技术鸿沟，上手即用。

AI提前预测传染性，应权衡公共卫生与隐私保护 话题2：疫情如何加速AI应用，由此带来了什么风险？
“必须在公共卫生或个人健康的背景下考虑隐私，在公共卫生危机期间，国家应该在尊重权利和必要防控措施间加以权衡，从而有效控制疾病的传播。”——李开复
李开复 ：我说几个亲身经历的例子。疫情期间的社交隔离，催生了众多的 AI 应用，例如医院中的送货机器人。
对于隔离中的人也一样。前阵子我回到北京的家中隔离时，在我居住的公寓楼里，没有见到一个人。所有的事情都交给了一台机器人代劳，包括网购的包裹和食品运送，真正实现了零接触，将危险降到最小化。
第二个例子是AI与医疗的结合。我们投资的AI 医疗企业Insilico Medicine，主要使用生成化学对抗神经网络，研发新药小分子。在疫情期间，他们通过AI平台，用几个星期的时间，研发出了能抑制病毒内负责复制的主要蛋白成分的新药物小分子。
最后一个例子或许有些争议，就是接触者追踪。世界上许多国家已经成功的建立了接触者追踪体系，并较为有效地控制了疫情蔓延。但在美国、欧洲等地方，这种做法被视为是对隐私的侵犯。
对此，我的观点是，对那些重视隐私的国家，我表示完全理解和尊重，但是我认为必须在公共卫生或个人健康的背景下考虑隐私。在公共卫生危机期间，国家应该在尊重权利和必要防控措施间加以权衡，从而有效控制疾病的传播。等到疫情结束后，再回归正常。
我们都不希望重蹈疫情的覆辙。我预计在未来，AI将被用来预防流行病的发生和传播。医院将广泛使用传感器、可穿戴设备，汇总疫情信息，及时报告潜在危害，在早期遏制疫情指数级增长的趋势，从而更好地应对危机，避免再次失控。
Yoshua Bengio ：李开复博士提到的这几个领域，我都有所涉及。
一个是药品研发，我本人参与了几个项目，其中涉及神经网络、实时强化学习和主动学习。
在化学和生物领域，需要进行测试的组合方式太多，逐个进行研究是不可能的。所以我们需要一个合理的搜索策略，这就是我现在参与的项目内容。我们希望能用AI缩短研究时间，通过重组已有药物，研发新型抗病毒药物。
在接触追踪方面，目前已有的接触追踪大都没有用到AI，只是进行简单的测试法：如果有人测试结果为阳性，或者确诊感染，那么与其接触过的所有人，都应该采取隔离措施。但是，在测试为阳性进而被隔离之前，传染就已经开始了。
我们的一项研究显示，如果能借助机器学习，提前预测某个体是否具有传染性以及传染性强弱，透过一些模糊的数据分析，就能大幅节省等待时间，及早知道曾接触过病毒携带者，从而抑制病毒的传播。
当然不可避免会出现隐私问题。隐私保护与机器学习需求之间存在有趣的矛盾。隐私保护需要尽可能降低数据交换，而机器学习却需要尽可能收集大量的数据。
许多国家非常担忧接触者追踪的滥用会侵犯隐私，因此催生了许多隐私保护技术。好消息是，这两者可以共存。

AI是把双刃剑，应推动全球治理、改变文化 话题3：AI的责任和挑战：如何促进未来社会经济可持续发展？
“如果我们能对人工智能的能力善加利用，就能更快速地找到更好的新材料，以取代现今对地球造成长期污染的碳、电池等毒性材料。”——Yoshua Bengio
李开复 ：我会从创新工场的角度举一些例子，创新工场是一家创业投资公司，我们非常希望 AI 能得到合理应用。Bengio 教授可能会在气候变化上再补充一些。
在 《AI·未来》一书中，我描述了一个人类与 AI 的共存的蓝图：由 AI 承担优化常规工作，让人类专注于需要创造力和同情心的工作。
从社会责任感的角度说讲，AI与医疗和教育的结合，将带来极大的社会福祉。
未来，医生将成为富有同情心的护理者，深切关怀病患，与他们交流。而 AI 可以用于分析放射结果、MRI、CT报告，提出各种可能的诊断及治疗结果，针对性推荐药物，以及辅助科学家研发新药。
教育行业也是这样。我们投资了很多在线教育公司，发现 AI 在教师的常规工作上表现非常出色，能够根据学生的特点，因人而异地布置作业，帮老师们节省了时间，让他们专注于为孩子指导能力和引导心灵，进行个性化的教育，帮助他们培养创造力、团队合作能力、交流能力以及同情心。
所以，医疗和教育既是 AI能够显现优势的领域，也是有价值的投资。目前这两个领域正在蓬勃发展，我们也投入了大量精力和资金。
Yoshua Bengio ：我完全同意李开复博士的观点。AI 技术的进步，能够造福大多数人，我们需要将大量精力投入到此类项目中。
我个人对用AI解决环保问题投入很多，目前正在参与的一个项目就和气候危机相关。
我们使用类似新药研发的AI算法，应用在对抗全球气候环境变化的艰巨挑战上，生成、合成、评估各种新型材料技术，包括碳回收和电池。
正常情况下，这些新材料研发耗时极长，动辄十几年，甚至比新药研发的时间还要久。但是如果我们能对人工智能的能力善加利用，就能更快速地找到更好的新材料，以取代现今对地球造成长期污染的碳、电池等毒性材料。
但是，我们同时应该保持警惕：如果AI仅被少数市场玩家掌握，也有可能被用做牟利的工具，破坏正常、自由、动态竞争的市场环境。
因此，在向AI 未来发展的路上，我们需要时刻谨记 AI 具有的社会危害性。要将AI治理落实到各个层面，小到公司，大到全球。只有具备放眼全球的管理，才能合理有效地协调所有的力量，一起应对这些挑战。
如果我们真的想引导 AI 应用富有道德和责任，就必须改变现有的文化。而这依赖于所有人的努力。
政府必须参与其中，要投资好的技术应用，改变教育体系，让工程师、科学家不只专攻特定的科技领域，还要具备足够的社会学科知识；科学家必须懂得谦虚，认识到自己对专业以外的领域知之甚少，与其他不同领域的专家合作，保证自己的成果对社会产生正面的影响。
构建AI与人类社会的良性循环 话题4：你心目中理想的AI未来是什么样的？
如果我们能努力抓住人类与 AI 共存的机遇，思考人类存在真正的意义，从我们这一代便开始努力，最终将可以实现理想的AI未来。——李开复
Yoshua Bengio ：未来，在 AI 的帮助下，我们可以建立一个更明智、更公平、更理性、更包容的社会，每个人都可以说出自己的观点，进行充分辩论，再做出最佳决定。
社交媒体在诞生之初，本意是做一个最为透明、最为公平、普惠大众的公众传播平台，但由于算法基于人类偏好的推荐，及带有特定企图的传播者作祟，造成社交网络的破碎凌乱，煽动的、谬误的、偏见的信息被放大传播，不仅没法帮助我们理性讨论，也欠缺帮助人们做出最佳集体决策的能力。
人工智能应该在这一方面有所作为，从各种垃圾信息中筛选出有用结果，让社交平台更加智能，做到真正的公正透明，推送社会的理性和包容。
反过来说，如果我们都能变得更理智，也就能更好地使用 AI 技术，就能构建一个良性循环。但如果应用不当，就可能陷入恶性循环，因此我们必须谨慎选择。
李开复 ：Bengio教授说得太好了！我们是幸运的一代，AI是一个千载难逢的机会，人类能够与AI共存合作，由AI来承担常规事务，我们则专注于人类擅长的领域，从重复性事务中解脱出来，放手去做自己喜爱的事情。
我想用我心爱的、约翰·亚当斯的一首诗来结束这场分享。如果我们能努力抓住人类与 AI 共存的机遇，思考人类存在真正的意义，从我们这一代便开始努力，最终将可以实现理想的AI未来：

Imust study politics and war

我必须研究政治和战争
that my sons may have liberty to study mathematics and philosophy 因此我的儿子们能够学习数学和哲学
My sons ought to study mathematics and philosophy, geography, natural history, naval architecture, navigation，commerce and agriculture 我的儿子们应该学习数学、哲学、地理、博物、造船、航海、商业和农业
in order to give their children a right to study painting, poetry, music, architecture, statuary, tapestry and porcelain 使得他们的孩子们可以学习绘画、诗歌、音乐、建筑、雕塑、织物和瓷器

约翰·亚当斯，美国第二任总统，《独立宣言》起草委员会的五个成员之一，被誉为“美国独立的巨人”。
本文及视频内容经主办方 SGInnovate 同意翻译转载