人类自20世纪末发展出高度发达的机器人,采用正子脑处理各类命令,广泛应用于工业,甚至家用商业。(这是阿西莫夫在上世纪50年代所著的科幻作品,显然高估了当代科技发展的水平…)
机器人探索与发展的同时,不断伴随着争议,以至于在几十年以后,机器人基本淡出了人类日常生活,而仅仅用于工业生产之中。
人与机器人——三大法则
其中,最重要的莫过于机器人三大法则的定义:
一,机器人不得伤害人类,或因不作为而使人类受到伤害。
二,除非违背第一法则,机器人必须服从人类的命令。
三,在不违背第一及第二法则的情况下,机器人必须保护自己。
在好莱坞电影里,不乏越来越多机器人反制人类甚至颠覆世界的情节。当机器人们的思维越发先进,与人类的冲突便加剧,最终造成战争。可假如我们真的按照这三大法则来定义机器人,是否就能完美地避免一切灾害,使机器人受限于为人类创造福祉呢?
当这三大法则被当做程序写入每个机器人的脑中,如同人类的DNA,它们的所有行为、决策也都必须以这三条法则作为前提。
在这看似完美无缺又相当安全的定义下,虽然机器人绝不会像电影中那样直接造反和伤害人类,可依然充满矛盾,有时甚至会产生诸多难以解释的行为。因此,“机器人心理学”应运而生。所谓心理学就是解释机器人如何按照程序设定行动。
比如,在2020年代,人类第二次派遣机器人和少量管理人员前往水星执行采矿任务。一个原本按照计划执行采矿任务的机器人突然如同疯了一般不停徘徊,既不采矿也不回归。人类不惜冒着危险前去排查,最终查明:当它收到人类的命令——去矿区采矿并返回。机器人第一时间前往,但在采矿现场,它探测到会严重干扰它的正子脑的辐射地带。如果继续前进,自身会受到伤害,第三法则所自动产生的电位命令它回头。当它返回至安全地带后,第二法则所产生的命令电位又促使它前去采矿。于是乎,机器人在这两难的情况下达到平衡,沿着矿区一直徘徊,不能向前也无法后退。只有一个办法让它撤销原命令,那就是人类故意将自己置身于险境,迫使机器人来营救。
所以,纯粹理性且遵循法则的机器人仍然会做出很多令人诧异的事。机器人会按照字面的狭隘意义来理解命令并执着地执行。如何定义机器人,如何理解机器人,仿佛一切变得不那么简单了。
但除去这类极端的少数情况,在绝大多数情况下,机器人都能保证与人和平相处,服侍人类。不仅不会主动伤害人,而且一旦在人类面临危险时,还能遵照这三大法则,毫不犹豫挺身而出,牺牲自我。这就是人类对于机器人的底线吧。
进一步思考,假如为了能扩充机器人的行动范围,我对这严格的三大法则略微做出修正,是否还能确保机器人不会伤害人类?
如果我把第一法则“机器人不得伤害人类,或因不作为而使人类受到伤害”的后半句删除。即第一法则仅仅表示“机器人不得伤害人类”。结果会如何?
当一个人行走在天桥底下,机器人站在天桥上手持一个重物,我命令机器人松开双手。未经修改定义的机器人会执行指令松开双手,但随着重物下坠,它会遵循第一法则,挺身而出再次拿住重物,以确保人类不受伤害。
可经过上述定义修改后的机器人,在执行命令松手之后,即使预判到行人会被砸死,却不再有“不作为而使人类受到伤害”这个限制条件,它可以选择不作为,从而导致行人伤害。自始至终,它并没有直接作出伤害人类的行为,仅仅遵循我的命令,执行了一套看似毫不相关的简单指令。
人与地球——地球文明的形态
机器人不断发展,直到出现了与真人外表无法区分的人型机器人。民众的抵触情绪渐渐出现。人型机器人甚至走到了国际政坛高位,只不过没有人意识到而已。再过了几十年,到了21世纪中叶,整个世界变为由机体统一管理。所谓的机体,指的是以机器人的计算、分配为标准,来进行全世界的所有生产活动。简单描述,那就是一切以机器人的计算为指导!此时的世界处于生产力高度发达的和平时代,仿佛一切都在机器人的计算当中。消除了病害,同时以最科学高效的方式完成生产劳动。
但渐渐地,不断从世界的各个角落出现一些生产事故,仿佛机体的计算出现偏差,不再那么可靠了。
通过排查,机器人学家发现,问题其实并非出自机体的计算偏差,而是在人类社会中,出现了“人本协会”群体,强调回归人类,拒绝机器人为人类设计未来,去除机器人,去除过度的机器人化社会。因此他们不执行机体的正确指导。
随着时间流逝,若干年之后,随着机器人帮助人类建设,地球上的人类世界越发发达,人口在不断扩充,一座座城市进行合并。为了营造舒适的生活环境,人们创造了金属穹顶,营造室内永远温暖安逸的环境。
就这样,人类世界演化成了“钢穴”——形成“大城”。一个大城就是一座巨大的“钢穴”,整个城市用金属包围着,就连穹顶也完全采用金属覆盖。所有人类都群居于内,所有的建筑也都容纳其中。它拥有良好的通风系统,能保证“钢穴”内的空气流动,也有恒温系统和模拟日照。总之,所有人类不再暴露于天空之下,也不再习惯身处户外的空旷之地。
倘若从太空视角俯视,便能看到人们仿佛一点点向内龟缩起来,逐渐收缩进“钢穴”这样安全、舒适稳定的居所。
这就是《银河帝国》里,地球文明的形态。
跟着作者的思绪,让我们继续探索银河,在那里,我们会预见更多的人类演变。