谈谈奇点

谈谈“奇点”

我们的未来不是再经历进化，而是要经历爆炸。

——Raymond Kurzweil

最早意识到人类技术发展速度加快的是波兰数学家斯塔尼斯拉夫・乌拉姆，于 1958 年和计算机科学家冯・诺伊曼的一次对话中。而统计学家 I.J. Good 于 1965 年提出技术奇点的必要条件──“智能爆炸” 概念：

让我们将超级智能机器定义为一种能够远远超过任何人的所有智力活动的机器。如果说设计机器是这些智力活动的一种，那么超级智能机器肯定能够设计出更加优良的机器；

毫无疑问，随后必将出现一场 “智能爆炸”，人类的智能会被远远抛在后面。因此，第一台超级智能机器是人类需要完成的最后一项发明，前提是这台机器足够听话，会告诉我们如何控制它。…… 在二十世纪之内，超级智能机器将很有可能被制造出来，而它会是人类需要进行的最后一项发明。

1982 年，弗诺・文奇在卡内基梅隆大学召开的美国人工智能协会年会上首次提出 “技术奇点” 这一概念。1993 年，弗诺・文奇在美国国家航空航天局路易斯研究中心举行的一次讨论会上发表了论文《技术奇点即将来临：后人类时代生存指南》（《The Coming Technological Singularity》）再次简述了这个观点，论文同年刊载于《全地球评论》（《Whole Earth Review》）杂志上。在这篇论文中，弗诺・文奇系统地阐述了自己的 “技术奇点” 的理论，并声称超越人类智能的计算器将在 50 年之内问世，并把这次变化好比 200 万年以前人类的出现一样重大。

1999 年，美国哲学家，麻省理工学院博士瑞・库茨维尔发表的《心灵机器时代 — 当电脑超越人脑》（ The Age of Spiritual machines ）一书，阐明了未来互联网将把全人类乃至其他生命和非生命体汇集成一个完整意识体的概念，在美国学术界激起一片浪潮。2001 年，他提出摩尔定律的扩展定理，即库茨维尔定理（Kurzweil';s Law of Accelerated Return）。该定理指出，人类出现以来所有技术发展都是以指数增长。也就是说，一开始技术发展是小的，但是一旦信息和经验积累到一定的基础，发展开始快速增长，以指数的形式，然后是以指数的指数形式增长。瑞・库茨维尔将同样的概念引入到生物进化和宇宙诞生以来的变化里，并导出了同样的指数增长的公式。根据数学模型，在未来的某个时间内，技术发展将接近于无限大。2005 年，瑞・库茨维尔发表了 500 多页的巨著《奇点迫近》，再次系统的介绍了这个概念的数学模型、基因工程的发展、纳米技术的展望和超越光速的可能性，该书成为美国网络书店亚马逊上 2005 年科普十大畅销书之一，同时成为网上博客热谈的一个话题之一。

基于人类在过去的千百年间取得的所有重大技术进步来推算在不远的将来人类的各种核心技术趋势，文奇、库兹韦尔等人认为达到人类水平的通用人工智能即将来临，我们也有理由相信超级人工智能将比多数人预想的更早到来。

对未来的这种客观的、推理性的预测有其优点，值得鼓励。不过我认为也必要从主观、心理层面去思考，以人文的角度对通用人工智能和奇点仔细考量；我们究竟想要什么，如果我们下定决心为之努力，将能够取得什么样的成绩。

但为何奇点会来得很迟呢？我们可以预设一些极端情况。万一恐怖分子用核武器摧毁世界的主要城市呢？万一反技术的宗教狂热分子接管各国政府呢？但就算不发生这类极端事件，结果也可能是一样的。人类历史可能不会朝着大规模技术进步前进，而是走上一条截然不同的道路，并将发展中心放在战争、宗教等事务上。

或者（尽管我们认为可能性很小），我们可能会遇到一些意料之外的障碍。我们可能会发现，不管通过分析神经科学数据还是创建智能系统，人脑都很难解开智能之谜。

受客观发展水平限制，摩尔定律等所指的增速可能减缓，为多核结构设计软件可能非常困难；脑部扫描仪的更新速度也可能放缓。

好胜心能给人无穷的力量。体育教练知道士气的力量，如果一支队获胜，他们每进一场就都想贏，而信心使他们获胜机会更大。有信心的队伍不会在乎小失误，而如果一支队伍接连战败，每场比赛他们就都会担心出差错，一个失误就能让他们整场比赛士气低沉，这样更容易接连失误。

再举个例子，看一下“曼哈顿计划”(Manhattan Project)。美国人在德国人之前就想到要研制核武器。他们认为这是可能实现的，迫切想率先研制出核武器。遗憾的是，他们禅精竭虑研制的却是杀人武器。但是，无论你怎么看这个问题，曼哈顿计划中科学技术进步的速度都是不可思议的，如果美国科学家不是认为德国科学家已抢先一步，他们可能永远言之不出核武器，而从某种程度上说，他们颜值的杀人武器推动了人类的进步。