来自人工智能的十大挑战，你们人类准备好了吗？
摘要
人工智能正在改变世界，而关键是人类应该如何塑造人工智能。我们在“热”推进的同时，必须进行“冷”思考。本文立足于哲学视域，来探讨智能化社会有可能带来的十大挑战。
挑战之一：人工智能有弱版本、强版本和超版本三种形式，目前大力发展的弱人工智能，使人类生活的世界处于快速变化之中，这在概念建构上使人类措手不及。如何重构概念框架，丰富现有的概念工具箱，是人类面临的概念挑战。
关键词：机器学习、重构哲学社会科学框架
21世纪以来，随着大数据、云计算、图像识别以及自然语言处理等技术的发展，以深度学习为基础的联结主义范式得到快速发展。这种范式在观念上把计算机看成是类人脑，在方法上不再求助于形式化的知识推理，不再通过求解问题来体现智能，而是求助于统计学，通过模拟神经网络的联结机制，赋予计算机能够基于大样本数据进行自主学习的能力，来体现智能。这就把人工智能的研究，从抽象的知识表征转向实践中的技能提升，从原子主义的主客二分的理性分析方式，转向能动者与其所在的世界彼此互动的感知学习方式。
能动者的技能提升是在学习过程中进行的。技能不能被等同于操作规则或理论体系，而是能动者在其世界中或特定的域境（context）中知道如何去做的技术能力。这种范式恰好与来自胡塞尔、海德格尔、梅洛-庞蒂和德雷福斯的现象学相吻合。这也是为什么威诺格拉德于20世纪80年代曾在斯坦福大学的计算机科学课程中讲授海德格尔哲学、麻省理工学院的第二代人工智能科学家也不像第一代人那样排斥德雷福斯的哲学主张的原因所在。
人工智能发展的这种范式转换，不仅揭示了人类体验世界、与世界互动，以及在理解世界并赋予其意义上，使世界语义化的新方式，而且正在全方位地改变着过去习以为常的一切架构。
一方面，基于统计学和随机性的算法建模，赋予智能机器在不断实践中能够自主提高技能的能力，使得机器学习的不确定性和不可解释性成为智能机器的基底背景，而不再是令人担忧的认识论难题；
另一方面，机器智能水平的高低，取决于其学习样本的体量或规模，这强化了体知型认知（embodied cognition）的重要性。智能机器在学习过程中表现出的不确定性，以及人工智能所带来的世界的瞬息万变，要求我们重构现有的规则与概念。因此，全方位地丰富和重构哲学社会科学的概念框架，是我们迎接智能化社会的一个具体的建设目标，而不是一个抽象的理论问题。
挑战之二：人工智能是由大数据来驱动的，如何理解数据之间的相关性所体现出的预测或决策作用，是人类面临的思维方式的挑战。
关键词：相关性思维方式、数字环境适应人
大数据具有体量大、类型多、结构杂、变化快等基本特征。然而，当数据成为我们认识世界的界面时，我们已经无意识地把获取信息的方式，交给了搜索引擎。在搜索算法的引导下，我们的思维方式也就相应地从重视寻找数据背景的原因，转向了如何运用数据本身。这就颠覆了传统的因果性思维方式，接纳了相关性思维方式。
因果性思维方式追求的是，如果A，那么B；而相关性思维方式追求的是，如果A，那么很有可能是B。这时，A并不是造成B的原因，而只是推出B的相关因素。就起源而言，因果性思维方式是与牛顿力学相联系的一种决定论的确定性思维方式，而相关性思维方式则是与量子力学相联系的一种统计决定论的不确定性思维方式。
相关性思维与因果性思维，属于两个不同层次的思维方式，不存在替代关系。前者是面对复杂系统的一种横向思维，后者则是面对简单系统的一种纵向思维。比如，在城市管理中，智能手机的位置定位功能有助于掌握人口密度与人员流动信息，共享单车的使用轨迹有助于优化城市道路建设等。这些在过去都是无法想象的。
另一方面，随着数据实时功能的不断增强和推荐引擎技术的不断发展，人与数据环境之间的适应关系也发生了倒转：不是人来适应数字环境，而是数字环境来适应人。这种新的适应关系也是由相关关系引领的。
挑战之三：在一个全景式的智能化社会里，如何重新界定隐私和保护隐私，如何进行全球网络治理，是人类面临的新的伦理、法律和社会挑战。
关键词：电子档案、信息删除权
当人类生存的物质世界成为智能化的世界时，常态化的在线生活使人具有了另外一种身份：数字身份或电子身份。
一方面，无处不在的网络，即使是私人空间或私人活动，也成为对公共空间或公开活动的一种重要延伸。过去属于私人的信息或国家机密，现在会在不被知情的情况下，被复制和传播，甚至被盗用；另一方面，编码逻辑的活动越来越标准化和碎片化，自动算法系统作为新的认知层面，建构了个人的电子档案，能够实时地解读和编辑个人行为、筛查个人的心情、追踪个人的喜好，甚至能够抓取个人对信息的感知趋向，进行有针对性的信息推送。
而这种推送服务，不仅会加固社会分层，而且具有利用价值，比如，保险公司有可能在掌握了个人病史的情况下，提高保费；大学招生部门有可能把个人网络档案作为决定是否录用学生的参考依据，等等。与传统的社会化和社会控制机制相反，在智能化时代，人的社会化成为无形的和不可解释的。这就增加了社会现象的不透明性和人的透明性。
对于个人而言，网络数据和信息的不可删除性，个人注意力的货币化，人的行为随时被置于网络监视之中，以及无法保证技术的匿名性，都会导致人的隐私权的丧失，还会强化信息的不对称和权力的不对称，因而对传统的隐私观提出了巨大的挑战。
传统的隐私观包括两个方面：一是个人对希望呈现的信息有控制权，二是个人对属于或关于自己的信息有删除权。当人的数字化生存使得人们失去了对自己信息的控制权的同时，也就失去了对自己信息的删除权。在欧盟关于数据保护条例的讨论中，从互联网中消除信息的决定权，是一个最有争议的话题，其中，技术性的问题比我们想象的更加复杂。
挑战之四：随着人的网络痕迹不断留存，应该如何对待很有可能出现的数字人，是人类面临的对现有生命观的挑战。
关键词：数字人、拓展生命观
物联网创造了把人、物和世界或自然界联系起来的网格，智能化技术的发展又进一步使得数据、信息和知识，还有思想和行为痕迹，成为永存的。这已经为数字人的出现创造了条件。
数字人不仅能永生，而且更重要的是，它能够模仿出之前只有生命才具有的许多特性。这就对传统的生命观提出了挑战，并带来了许多需要重新思考的问题。
如果未来有一天，数字人能够借助于自然语言处理技术和深度学习技术，来模仿真人的发音，通过计算机视觉、图像识别等技术，来模仿真人的行为。那么，是否允许未来会出现专门定制数字人的公司呢？应该制定什么样的道德法律来规范数字生命呢？
进一步设想，如果未来有一天技术允许一个人的心灵在他的身体死亡后，在一个不同的主人（比如，限于一块硅电路或一个分布式网络）的体内继续运行，将会发生怎么样的情况呢？这样的实体依然满足用来描述人还活着的标准吗？两者将会拥有相同的心灵吗？而且，就所有的实践考虑而言，它会将永远有能力学习、反应、发育和适应吗？这将会违背活的有机体是由细胞组成的这一必要条件。但是，如果我们选择坚持这个必要条件，我们将如何拓展我们的生命观呢？这还会涉及法律、医疗、伦理、经济、政治乃至军事等方面的问题。
挑战之五：增强现实技术、生物工程技术以及量子计算的发展，应该如何对待有可能出现的生化电子人，是人类面临的关于身体观的挑战。
关键词：技术人造物、自由意志
在智能化的社会里，当芯片技术、生物工程技术和量子算法等整合起来时，将会出现名目繁多的增强型技术。这些技术的人造物，比如生物芯片，不只是具有医疗的作用，更重要的是具有强化人体功能的作用，那么，我们应该如何规范这些器件的使用范围呢？不论是为了医疗的效果，还是为了增强的效果，当人体的主要功能性器官有可能被全部替换时，这个人还是原来的那个人吗？
当技术发展到人的主要器官可以被替换时，就可能出现生化电子人，那么，生化电子人仍然是人吗？我们如何划定人类和非人类之间的界线？
更令人担忧的是，随着医疗技术的发展，也许有一天内置于我们体内的纳米机器人能修复任何需要修复的器官或组织，而不会影响人的生命或身份。但是，如果这些机器人是受外部控制的，就必然会带来许多问题，比如，如何看待自由意志；从动物伦理的视域来看，当人类有可能在生物上成为永生的时，对环境和可持续性来说将是毁灭性的；人类是否有权比其他生物活得更长久，人类是否应该建立规则和条件来终止生命或同意安乐死，以及如何决定谁应该活着和死去。
挑战之六：人的数字化生存，有可能使得理性—自主的、与身体无关的自我意识，被第三空间中的社会—关系的、与身体相关的自我意识取而代之，这是人类面临的重构自我概念的挑战。
关键词：第三空间、关键自我
在智能化的社会中，人的在线生活使得在线交流成为人类交往的一种习惯方式，人们把这种交流的网络空间称之为“第三空间”。这是由共享的群体意识所塑造的一个空间，现在流行的微信朋友圈就是典型一例。这种空间是位于严格意义上的个人隐私和大规模公开化之间的一个共享的交流空间。
第三空间中的自我概念强调的正是这种与他者的“关系性”或“社会性”。人类自由的这种语境依赖性，把自我定义为是通过多重关系来构成的。在多重关系的交织中，人们往往从坚固的个人隐私观念，转向了各类新媒体上的信息共享：既包括私下公开个人信息，也包括共享受版权保护的学术资料，还有小道消息，甚至不加证实的各类谣言等。因此，人的网络化生活一方面使人类从信息匮乏的时代，转变为信息过剩的时代，另一方面又把人类带到一个信息混杂、难辨真伪的时代。
关系自我之所以强调在与他者的交流互动中来彰显自己，是因为人不仅是目标的追求者，也是意义的塑造者，人与人之间的彼此互动也会产生新的意义和新的可供性。因此，如何重塑社会—关系自我，成为我们面临的关于自我概念的挑战。
挑战之七：人工智能向各行各业的全面渗透，使人类有可能摆脱就业压力，获得时间上的自由。然而，如何利用充足的自由支配时间，却成为人类面临的比为生存而斗争还要严峻和尖锐的挑战。
关键词：改变财富观
随着计算机的运算能力与储存能力的不断提升，特别是有朝一日随着量子计算机的出现，人工智能不只是局限于模拟人的行为，而且还拓展到能够解决复杂问题。人工智能的这些应用前景，越来越受人重视。然而，我们面临的问题，不应该是因恐惧失业而阻止人工智能的发展，而是反过来，应该前瞻性地为人工智能的发展可能带来的各种改变，做好思想准备和政策准备。事实上，问题的关键并不是人工智能的发展会导致大量人员失业那么简单，而涉及更加根本的问题：如何改变人类长期以来形成的就业观和社会财富的分配观？
随着人工智能的发展，当程序化和标准化的工业生产、基于大样本基数的疾病诊断、法律案件咨询，甚至作曲、绘画等工作都由机器人所替代时，当人类的科学技术有可能发展到编辑基因时，地球的发展将会面临着第三次大转折，那就是迎来人机协同，乃至改变人体基因结构的时代。
到那时，有望从繁重的体力劳动与脑力劳动的束缚中完全解放出来的人类，应该如何重新调整乃至放弃世世代代传承下来的以劳取酬的习惯和本能的问题，以及人类如何面对改造自己基因的问题，就成为至关重要的问题。
也就是说，当人类的休闲时间显著地增加，而我们所设计的制度与持有的观念，还没有为如何利用休闲时间做好充分的思想准备时，当科学技术的发展使我们能够设计自己的身体时，我们将会因此而面临着一种“精神崩溃”吗？对诸如此类问题的思考，使我们不得不面对更加现实的永久性问题：我们在摆脱了就业压力而完全获得自由时，如何利用充足的自由支配时间，如何塑造人类文明，成为人类文明演进到智能化社会时，必然要面临的比为生存而斗争还要严峻而尖锐的挑战。
挑战之八：当人类社会从由传统上求力的技术所驱动的工业社会，转向由求智的技术所驱动的智能化社会时，如何在智能技术的研发中，把人类的核心价值置入到设计过程之中，使人工智能有助于塑造人的意义，是人类面临的关于技术观的挑战。
关键词：技术伦理
从总体上讲，人类创造技术人造物，在主观上，虽然不是为了改变人，而是为了满足人的需求，但在客观上，却反过来又在无形中重塑了人，也就是说，人在使用技术的同时，也被技术所改变。
特别是，当我们生活在“智能环境”中时，一方面，物质环境本身具有了社会能力，成为一种环境力量，能够起到规范人的行为和重塑公共空间的作用，甚至还能起到社会治理的作用。
比如，城市交通要道上架设摄像头，能够约束司机的驾驶行为，使他们不得不把遵守交通规则内化为一种良好的驾驶习惯；在智能手机中下载地图app，不仅能实时掌握道路拥堵情况，方便出行，而且有助于缓解主干道上的交通压力；许多重要场合在安装上人脸识别系统之后，不相关的人员将无法入内，从而变成了一项加强安保与监管的自动措施；用人单位在记录职工考勤时，如果用人脸识别系统取代传统的电子打卡方式，就能够避免替人打卡现象，如此等等。
但另一方面，智能手机携带的地理定位功能，让人的行踪成为透明的，网络活动留下的各种数据，让人的兴趣、爱好、生活习惯以及社会交往等成为透明的，人脸不仅是名字的标签，还承载了许多可以机读的网络信息，这些信息既能造福于人类（比如，用于病理诊断），也会损坏人的利益（比如隐私泄露）。
因此，在智能化的社会中，技术善恶的天平将会偏向哪个方向，不再只是取决于使用者，而且更取决于设计者。
当代人已经生活在人造物的世界中，无法离开技术而生存，而是应该讨论如何在智能技术的研发中把人类的核心价值置入到设计过程，如何发展与人工智能的良性互动，如何树立一种嵌入伦理责任的技术观等问题。
挑战之九：在知识生产领域内，软件机器人的普遍使用，将会为科学家提供科学认知的新视域，如何对待有软件机器人参与的分布式认知，是人类面临的对传统科学认识论的挑战。
关键词：分布式认知
网络化、数字化与智能化的结合，既是平台，也是资源。它们不仅创设了无限的发展空间，具备了很多可供开发的功能，而且为我们提供了观察世界的界面。特别是，对于那些希望从互联网的知识库里“挖掘”有用信息的人来说，搜索引擎或软件机器人成为唾手可得的天赐法器，既便捷，又快速。
问题在于，当搜索结果引导了人类的认知趋向并成为人类认知的一个组成部分时，人类的认知就取决于整个过程中的协同互动：既不是完全由人类认知者决定的，也不是完全由非人类的软件机器人或搜索引擎决定的，而是由相互纠缠的社会—技术等因素共同决定的。弗洛里迪称之为“分布式认知”。一种分布式认知的形式体现在维基百科中。另一种分布式认知的形式体现在新型的科学研究中。
因此，当科学研究的结果也依赖于机器人的工作时，我们的认识论就必须由只关注科学家之间的互动，进一步拓展到关注软件机器人提供的认知部分，形成“分布式认识论”。这是对传统认识论的挑战。
挑战之十：当整个人类成为彼此相连的信息有机体，并且与人造物共享一个数字化的信息空间时，认识的责任就必须由人类的能动者和非人类的能动者来共同承担。如何理解这种分布式的认识责任，是人类面临的对传统责任观的挑战。
关键词：责任观、摆脱恐惧
智能化的网络世界永远是一个包罗万象的地方，既让人着迷，又令人忧虑。着迷之处在于，它有可能让我们极大程度地从体力与脑力劳动中解放出来，有时间从事成就人的工作；忧虑之处在于，它同时也会带来了无尽的问题：身份盗用、垃圾邮件、网络欺诈、病毒攻击、网络恐怖主义、网络低俗文化等。这说明，我们的认识系统已经是一个与社会—技术高度纠缠的系统。
在智能环境中，智能化程度的提高，造成了我们对承担责任的恐惧。比如，在个人数据处理、无人驾驶、算法交易等事件中，如果发生问题，应该由谁来负责呢？
这种恐惧把认识关系变成了一种权力关系。也就是说，在认识过程中，不同的认识能动者（不论是人类的，还是非人类的），具有不同的权力。当非人类的算法或软件机器人过滤和引导了我们的认识视域时，就提出了我们如何成为负责任的认识者的问题。
比如，我们已经习惯于通过百度来查找所需要的一切信息，习惯于通过参考他人的评分或评论，来决定预定哪家宾馆、在哪个餐饮吃饭、购买哪件衣服，等等。问题在于，我们为什么要相信这些评论或评分？如果我们被欺骗，我们应该如何问责呢？对这个问题的思考，涉及到关于搜索引擎这样的智能人造物的伦理和道德责任的问题。
比如，汽车发生碰撞事故，交警通常会判定要么由司机来负责，要么由厂商来负责。在这种思路中，汽车是被当作孤立的技术人造物来看待的。可是，如果是一辆无人驾驶的汽车发生了碰撞事故，那么，我们就需要追究这辆车的责任，因为无人驾驶车应该被当作是属于社会—技术—认识高度纠缠的人造物来看待的。
然而，如何解决这样一个把伦理学、本体论和认识论高度纠缠在一起的问题，在现有的规章制度中和交通法规中依然无章可循。因此，从如何重塑社会—技术—认识系统中的问责机制来看，如何确立分布式责任观是我们面临的对传统问责机制的挑战。
综上所述，智能化社会是由人工智能驱动的社会，是信息文明的高级阶段。这个社会必然会全方位地打破我们习以为常的生活方式、生产方式、思维方式、概念框架乃至当前在现代性基础上形成的方方面面。在我们势不可挡地迈向智能化社会的道路上，面临着有必要重构一切的情况下，哲学社会科学的出场，很可能比技术与资本的出场更迫切、更重要。因为只有这样，才能有助于前瞻性地重构一系列战略方针，做到防微杜渐，才能有助于扩大人工智能带来的恩惠，规避人工智能可能带来的危害，降低发展人工智能付出的代价。也许，摆脱恐惧，迎接挑战，是人类文明无法回避的宿命。
公众号回复“机器学习”，
邀你加入{IT派AI机器学习群}