有一说一,AI 到底会不会伤害人类?

有一说一,AI 到底会不会伤害人类?_第1张图片

人工智能的发展过程,如果用谷歌Ngram来衡量,从控制论算起,目前经历了两次高潮。

控制论之后的一次高潮是在20世纪80年代,正是专家系统和日本第五代计算机项目得势的时候。但进入90年代后,人工智能又呈现出下滑趋势。现在的新一轮高潮是进入21世纪之后开始的(2006年辛顿在《科学》上发表的深度学习相关文章,不知算是起因还是巧合)。

如果按照麦卡锡的说法,控制论不算人工智能的话,现在尚处人工智能的第二次高潮,我们不知道这一次还能持续多长时间。

有一说一,AI 到底会不会伤害人类?_第2张图片

人工智能专利、论文及Ngram人工智能曲线

2016年 AlphaGo 对李世石的胜利引起了新一轮对超级智能的讨论,焦点是将来会不会有一个全新的物种在智能上全面超越人类。

牛津的哲学家博斯特罗姆(Nick Bolstrom)2014年写了本未来学的著作《超级智能》,讲到了人类在面临不断发展的机器时代的存在危机。物理学家霍金和企业家马斯克都附和博斯特罗姆的立场。

畅销书《未来简史》(Homo Deus: A Brief History of Tomorrow)的作者、另类历史学家赫拉利(Yuval Harari)为这个潜在的新物种起了个有意思的新名,叫“神人”(Homo Deus),恰是这本书的英文书名。“神人”就是超级智能的主体。

赫拉利真像是人工智能界安插在人文学科里的“托儿”,在潜伏期到了之后,出现得真是时候。历史学家本来应是总结过去的,但赫拉利却偏要预测未来。赫拉利的前一本书《人类简史》从七万年前的认知革命一直讲到当下,为《未来简史》做了铺垫。

用不同的时间颗粒度看待过去,会得到不同的结论。《尤利西斯》中的几个小时,茨威格作品中人物的一生,或赫拉利的七万年,关心不同的过程。颗粒度也可以是主体的,一个基因,一个人,一个群体,不一定非得是一个小的物质颗粒只配得上小的时间单位。

想想基因人类学,基因在几万年的空间分布,帮我们了解人类的起源和迁移。当用太大的颗粒度研究历史时,历史学家的用处会令人质疑,那本该是初中历史课本的使命,任何结论都不会令人惊奇。

在人工智能研究的早期,就有AI和IA(智能辅助IntelligentAssistant,或智能增强IntelligenceAugmentation)之分。而人工智能又有强弱之别,强人工智能是说机器会全面达到人的智能,强人工智能有时也会和“通用人工智能”(Artificial General Intelligence)同义;而弱人工智能是说机器会在某些方面达到人的智能——AlphaGo就是弱人工智能的代表。

目前不会再有人质疑弱人工智能了,但强人工智能立场的主张者却面临各种挑战,其中之一是不同智能功能的整合。机器人可以比人更快地跑步,更好地下棋,更准确地识别语音和图片。

如果功能整合是可能的,那我们可以想象,比如谷歌的AlphaGo整合了IBM的沃森(Watson),除了下棋赢人类,还能通过美国行医执照考试。更进一步,如果把这个混合物架在波士顿动力公司(Boston Dynamics)的机器狗上,它还能5秒就跑个百米。

到底是感知更难还是认知更难,这又是一个长话题。曾经有人说,人对机器的最简单控制就是断电,但现在最简单的扫地机器人也知道快没电时找回基座充电。把人工智能教科书中的n种智能功能整合起来(例如下棋、图像识别、语音识别、规划等),是不是就会达到强人工智能或者超智能?

目前人工智能系统功能的单一性会不会只是一种错觉?乐观主义者会认为弱AI走向强AI的过程是个进步的过程,虽不是一夜之间。《终极算法:机器学习和人工智能如何重塑世界》的作者多明戈斯(Pedro Domingos)代表了一类乐观主义者,他认为会有一种统一的终极的机器学习算法,只要机器按照这个算法一直学下去,某一天就会超过人类。他给出的五类算法是进化的、连接主义的、符号的、贝叶斯的和类比的。

作者的研究领域是如何把这些算法统一起来。我们不禁怀疑,即使这些算法都能整合起来,就能构成终极算法了吗?难道不会有新的算法被发明出来吗?例如多明戈斯列的单子里明显缺失了强化学习,这是一个很老的算法,在2016年随着AlphaGo才得以扬名。

有些机器学习的从业者缺乏对计算理论的了解。他们不知道面对这样的问题应该怎么办。“终极算法”的提倡者应该借鉴图灵机和丘奇-图灵论题这样令人信服的理论方法。悲观主义者的立场正在退缩:在每一个单独的领域,都有可能超越人类,不一定会在整体全面超越人类。如果这个整合的整体在我们可以想到的各个方面都超过人类,那我们如何对付这个新时代的“弗兰肯斯坦”。

人工智能作为学科,经历了几次大起大落。每一次的高潮都是一个旧哲学思想的技术再包装,而每一次的衰败都源自高潮时期的承诺不能兑现。这一次的浮夸轮到了机器学习,被压制多年的机器学习研究者们号称,尽管机器学习是人工智能的子学科,但很快就会独立,并且会比人工智能更宏伟。

他们说人工智能是让机器达到人的水平,而机器学习是让机器超过人的水平。这倒是一个省事的赶超。还有人宣称科学家的职业也将会消失——因为机器可以学得更快,但计算机科学家例外。

我倒是怀疑计算机科学家是不是现在就应该组织工会。日本第五代计算机的失败似乎从来没有发生过。历史学家都忙着参与预测未来,当下是一个不需要总结教训的时代。AlphaGo在输给李世石的那个晚上,可以在自己和自己不断对弈的过程中学习并克服自己的弱点。无论对错,机器学习的速度确实有可能快过人类进化的速度。

过去的机器旨在节省人的体力,现在的机器开始代替人的智力。人通过两性繁殖的进化速度远远赶不上机器。机器的进化速度服从摩尔定律——每18个月性能提升一倍,而人的进化速度则是20年一代人。人作为物种,是不是不再具备进化的竞争优势?依靠硬件的摩尔定律,是不是可以达到超级智能?

新的智能存在可以是人工智能的“主体”(agent),也可以是生物学意义上的物种。2016年夏,在美国公共电台(Public Radio)热议的一个话题是,通过修复一个受精卵的一小段染色体,就可以避免或治疗某种疾病。这是一个真实的伦理问题,因为已经有这样的病例发生。

如果孩子出生,那么他/她的父母是谁?反对方的理由也很简单,多小算是“一小段”,1%还是49%?甚至更进一步:可不可以有更多不同来源的基因参与?英国《经济学人》2017年2月的一期封面标题就是“Sex and Science”,基因编辑是热门话题。这种“转基因”疗法如果目的不是为了治病,而是作为物种改良的手段,人类可以接受吗?

图灵在1936年那篇文章“论可计算的数”中证明了图灵机和其他计算装置的等价性,并由此有了所谓丘奇-图灵论题,也就是说任何计算装置都等价于图灵机。这个论题不是数学定理,但却是整个计算机科学的基础。

这个论题隐含着强人工智能的可能性:智能等价于图灵机。近年,也有人探索超计算(hyper-computation):计算能力超越图灵机的装置。量子计算作为超计算的一种潜在设备,被彭罗斯用来论证人的智能要超越图灵机。

维纳曾经说:“我们最好能够确认我们给机器设定的目的确实是我们想要的目的。”物理学家改行的科幻作家阿西莫夫曾提出机器人三定律,第一条就是机器不能伤害人,但“什么是伤害”本身就不好定义。AlphaGo战胜李世石和柯洁,算是对他们的伤害吗?即使是科学家兼幻想家,也未必就能把不远的未来想明白。

维纳和阿西莫夫可能都不懂计算理论,但畅销人工智能教科书《人工智能:一种现代方法》的作者罗素(Stuart Russell)也提出了所谓“价值观对齐”问题(value-alignment problem),即把机器的价值观对齐到人的价值观,这是个计算理论问题还是个道德问题?

图灵在1950年那篇被广为引用的文章“计算机与智能”的结尾处说:我们只能看到当下,但看见的这些就够我们忙活的了。这真是实干型科学家和揣度型历史学家(speculative historian)的区别。

本文节选自《人工智能简史》

《人工智能简史》全新精装版将于2020年10月上市,敬请期待。

  • 新增章节 + 全书修订,内容更新超过25%。

  • 全面补充人工智能演进路线图和人物关系图。

  • 获得第七届中华优秀出版物图书奖、第八届吴文俊人工智能科技进步奖,获选第十三届“文津图书奖”推荐图书,入围央视“2017年度中国好书”,被评为“南方都市报2017年度十大好书” “2018书业年度评选-年度图书” “人民邮电出版社2017年度好书”。

有一说一,AI 到底会不会伤害人类?_第3张图片

左图为平装版封面,右图为精装版封面初稿,正式封面以图灵社区官网最终发布为准。

内容简介

《人工智能简史》全面讲述了人工智能的发展史,几乎覆盖人工智能学科的所有领域,包括人工智能的起源、自动定理证明、专家系统、神经网络、自然语言处理、遗传算法、深度学习、强化学习、超级智能、哲学问题和未来趋势等,以宏阔的视野和生动的语言,对人工智能进行了全面回顾和深度点评。

本书极具专业性、思想性和趣味性,既适合缺少专业背景的普通读者了解人工智能的来龙去脉,作为人工智能的启迪之书,也适合专业人士了解人工智能鲜为人知的历史,提供深入学习的指导。

作者简介

尼克,乌镇智库理事长,毕业于中科院、美国麻省大学,师从人工智能大师。早年曾任职哈佛和惠普;后来创业投资,常往返于大陆和硅谷之间。无论忙闲不忘读书写字,作品多发表于《上海书评》,并有著作《UNIX SYSTEM V内核剖析》和《哲学评书》。

专家推荐

财讯传媒集团首席战略官段永朝老师推荐

读者评价

“尼克以灵活、轻松的笔调写出了人工智能发展历程中的人物、故事以及思潮起伏。他特别重视对具体的思想家、科学家、学者的刻画,轶事、趣闻像撒胡椒面一样为整本书“提味”,与一般人的预期相反,就叙事的有趣程度而言,《人工智能简史》简直不像是一本讲科学技术的书。”——《南方都市报》

“一本可以和 《上帝掷骰子吗》相媲美的书。”——豆瓣读者

“尼克大概是能够看到图灵的实质贡献的人之一。”——豆瓣读者

“辛辣的地图型科普著作。”——豆瓣读者

 “博雅式写法,信息量密集,理论功底扎实,学术视野宽博,是快速了解门庭的津梁。——豆瓣读者

“这本书出自一线科学家的手笔,知识广博,思辨深厚,对哲学、逻辑学、心理学、计算机科学的人物和思想了如指掌,是一本用心写的书,绝非市面抄袭注水之作可比。” ——亚马逊读者

“这是几年来看到的最好的讲人工智能的书了,没有之一。本书和那些不入流的相比,就是鸿篇巨著,和那些经典算法书相比,就是纲领和理解那些算法的脉络。” ——亚马逊读者

“对我来说,本书最大的冲击是对于哲学、数学、物理和计算机的俯瞰。” ——亚马逊读者

“本书文字生动幽默,颇具功力,反正我乐得不行了。很符合高素质黑客的画像:很好地使用母语写作,俏皮话和双关语。哦,出场人物有点多,还是要有些基础。” ——亚马逊读者

“这本书不是那些跟风鼓吹人工智能的肤浅的口号式册子,作者曾经在这个领域有过多年的深厚的历练,所以其中有很多可读之处。” ——亚马逊读者

“对人工智能各学派的历史发展都有详尽介绍。每章后面有“参考文献指南”,严谨周到。写作风格:专业+哲学范。比较适合专业读者。” ——亚马逊读者

“推荐尼克大师兄的这本读物。以八卦写AI史,看似八卦,实则真史,考据详实,无任何道听途说之内容,了解AI必看之读物。”——京东读者

“好看,作者是真圈里人!”——京东读者

有一说一,AI 到底会不会伤害人类?_第4张图片


有一说一,AI 到底会不会伤害人类?_第5张图片

你可能感兴趣的:(人工智能,机器学习,ai,微软,etag)