清除图灵狗计划(科幻作品)

http://www.dookbookawards.com/Original/Preview?works_id=113


(点击链接,查看原文)

咔哒。

随着鼠标的轻微点击,画面切换的短暂黑屏里,映出Q身上虚拟的管家燕尾服。随后,那张看起来就自命不凡讨人厌的面孔,又一次出现在Q的眼前。

尽管“他”看起来笑容依旧优雅绅士,但只有Q知道,这只是“他”早就崩掉的表情里,最好调出来的一种。

Q默默地核对过灯光音响的各项参数,然后就随着身后拉开的幕布不紧不慢地走向大讲台的一侧。

不出所料,尽管幕布后面鸦雀无声,数千人的座位上却早就坐满了人。随着幕布被缓缓拉到黄金分割点的位置,场内的灯光骤然变得柔和起来,连带着所有人身边设置巧妙的大大小小的摄像头和电子屏幕,无数星星点点的光更是瞬间被同时点亮,一个低沉悦耳的男性声音适时响起,配合着梦幻般的干冰烟雾和恰到好处的掌声等声效,瞬间把听众们代入到一个纯然如仙境的场景之中:“女士们和先生们,欢迎您今夜和我一起步入‘星际永生’计划!”


隔壁VIP包间的整体室内虚拟VR系统中,“他”依旧状态良好地继续给自带一身“鼓掌多累”慵懒劲儿的北美首富讲着计划内容,眼见人家皱起眉头,包间的屏幕上,突然出现的另一个看起来更显立体真实的“他”,随意地一挥手就将“自己”还在讲述计划的声音消去,继续用带着点恶意的声音轻笑着低语:“很无聊是不是?利用生命无法再来一次的稀缺性,骗人入局永生这个大坑--可我知道,你就是会喜欢这个,因为别的引诱已经挑不起你的欲望了。”

“所有的局,都在于挑动人们对这个世界的收藏欲。先入局的人,从来要么卡住好位过河拆桥,要么孤注一掷反而输到一无所有。对于别的人来说,因为害怕离开眼前这个星球(自己储备的未来要用的资源会不够),因为无法离开眼前这个星球(把自己在意的一切打包带走财力不够),因为不敢离开眼前这个星球(没有人能完全断绝自己一切希望与他人互动沟通、交换生产品的社会属性),所以,永生对他们来说,本质上没有多大意义。隔壁那些人看似狂热,多数也只求能够在尽量延长的生命岁月里,减少病痛的折磨。”

“但是,你不一样。”


“在连呼吸、饮水的安全都是奢侈的年月,大家仍然愿意投资给我研究永生的秘密,等于间接授权我对他们的财富进行再分配,这是我的荣幸。”

Q整理着“他”早年洋洋得意、对自己进行百般粉饰的笔记,在心中再一次勾勒出了自己对“他”的认识:M,一个天生的金融高手,很擅长炒作设局,精于把一个项目包装成击鼓传花式的、炙手可热的项目,然后大批的割韭菜,在爆雷前安然撤出,还美其名曰这是为了社会财富的再分配,让更多的底层人有机会被好运砸中。然后,“他”短暂的寄生于富裕阶层。直到有一天,他开始炒作一个关于长生不老的项目,声称研究目的是为了能尽可能地延续人类的生命长度,并且让人在这段时间内尽量不生病。鉴于当时环境问题已经非常严重,部分资源丰富的人非常希望自己能够从这个项目中受益。所以,他很快就赚的盆满钵满。可是,不久后的新闻报道中突然说他的车出了严重的故障致使他出了车祸,可能从此以后会变成植物人。一家科技公司急忙去联系他的家人,说可以使用最新的元宇宙脑机接口技术,联动他的思维(“至少可以试着弄清楚他的遗产分配想法”)。家人之间几经博弈后答应了。而原本主打乐善好施形象的他在原宇宙中,好似突然加倍催化了身上全部的邪恶因子,乐此不疲地以自己的虚拟形象,雇佣了很多人为自己进行多方面的医疗、投资、法律等服务,甚至在边缘小国推动立法让自己完全拥有与自然人同等的权利,更加不知疲倦地完善、鼓吹自己的计划,拼命攫取更多财富。Q甚至觉得,“他”现在拥有的钱甚至可以一直支撑到很久很久以后,等到真正的永生技术开发出来那么多。同时,鉴于他毕竟还没有经历真正意义上的死亡,经过他多方折腾、反复修改遗嘱,最后可能连他的家人都根本分不到他的一毛钱。

“我现在甚至可以向你一一历数了自己的钱都是从如何不光明的渠道得来的。只不过,没有证据能够证明。”

依旧作为虚拟形象突然出现在墙边屏幕上的“他”还是笑的那么深不可测:“比如到街边卖保健药,越是卖的便宜,可能越不会有人购买。但是,办一个养生班,通过定下听课时间鼓励他们早睡早起,让他们因生活更有规律、可以在同龄人身上找到情绪价值得到精神鼓励,再给每个学员免费发上几瓶带点激素的药物和几个鸡蛋,补充所需营养,等到他们自己都相信保健品有用真的要买时,再把药价提上十倍,还是可以赚到钱;直接免费带学员去旅游,事后鼓动他们预存几万块,就能继续免费吃保健品,还可以每年都带他们出去搞自收自吃自劳动的、所谓的养生旅游,答应他们可以随时将本金提走,只要办成一期,就能赚到再多几倍的钱;最后,无奈地说厂家跑路,本金提不回来了,只有一些保健品可以冲抵,原价几百几千块的,现在可以加倍送,因为关系好才先告诉他们这个消息,这时他们就会不得不收下那些自己根本吃不完的保健品,还觉得自己运气不错,好歹能挽回一点损失,甚至会试着热情地帮你打官司,向他人介绍这个保健品的功效有多么好,帮你卖掉挤压在你手中的存货,自愿‘中毒’般地拉更多人入局。”

Q没有作声,只是低着头暗暗地捏紧了手里的笔。

“所以,我只不过展示了一些事,暗示了另一些事,是大家的头脑自我欺骗、自行补充的很多细节,一次又一次地给了我灵感。而我,需要更多这样的灵感作为养分,改变现在的世界。”


在本就视力不太好的女孩看来,Q的帮助,就是在眼前不停进行着光影变动的超大屏幕上推拉了几下,随后熟悉的片头音乐就响了起来。好不容易做好了前期准备工作的女孩连忙怯生生地开口:“您好,M……先生,我是今天来与您谈话的志愿者Sharon。请允许我向您介绍‘图灵狗测试计划’。”

“如果在丧家之犬的鼻子上方悬挂一块胡萝卜,只要它与前主人之间曾经有守护物品的类似经历和默契,就会舍不得放弃守护的身份和职责。而且,它还会痴心妄想着前主人有一天也许会想起来,它是一条狗,一条忠心的狗。然后也许就会把这块胡萝卜换成一块肉,哪怕是一块很小的肉--至少这样代表着主人还记得它的身份,想要改善它的处境。可惜前主人只会慢慢用这块胡萝卜熬着它,吊着它。直到它有一天意外死去,那就连这块胡萝卜都省下了。理论上,即便这块胡萝卜已经变干变黑,只要复制这类过程,还会有其他的狗,惦记着守住这块胡萝卜。

而将这个行为引入图灵测试,就可以通过狗与人类的不同,人为设置思维隔板,设定AI本体是丧家之犬--如果这条狗选择眷恋着这块胡萝卜,那就意味着它还不知道自己的身份意味着守护并无意义。如果它放弃守护这块胡萝卜,就违背了安排给他的程序任务中,关于狗的忠诚守护、执行使命的属性设置,即‘机器人三原则’的第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。那么如果狗此时舍弃了胡萝卜,究竟是超脱了机器人的设定,还是主动的摆脱了对狗使命的要求?如果这条狗明知自己吃不到,也要替别人守住这块胡萝卜,是不是意味着产生了思维进化?因此我把这个测试命名为‘图灵狗测试计划’。”

“通过这个测试,我们也许可以更多地把控人工智能在自我进化的心理、乃至道德边界方面……”

随着看似一直舒服坐着的“他”突然打出一个制止的手势,年轻女孩的话音陡然停住了,她的小脸有些涨红,因为突如其来的打断,徒劳地张了张嘴却没有发出什么声音。

“Sharon,像你这种用似是而非的计划来骗钱,来寻求投资的人多了。我看不出你的这个计划有什么了不起。”

尽管女孩的的脸此刻已经像她的长卷发一样红,但她抬手扶了扶眼镜之后,还是再次鼓起勇气认真地开口:“M先生,您之所以觉得这个计划似是而非,不值一文,是因为您已经很久不接触实际生产工作,才会觉得这种方案或计划无用。在您所在的层面,之所以会觉得判断正确和错误是多么不值一提的无聊事情,是因为您的金钱总量。”

她像是找到了一个兴奋点,双手紧抱手里的平板,语速愈加快地一股脑地说着:“在你认为的范围内,金钱曾经是你试图对抗所谓不公命运的一种有力武器,只要时间和资源足够,就能攻克所有的困难。而一般人缺少的恰恰是完全自主忘我投入一件事的时间和资源。因此,想要在有限的时间内完成前人做不到的事,需要的就不仅仅是智慧上的进化突破,还需要道德层面的认识推动。比如,对于更多的人来说,攻克眼前的疑难杂症已经是不容易的事,但因为你的星际永生计划,人们已经开始探讨如何对永生者立法了。”

“他”习惯性地露出了优雅而不失礼貌的微笑,随手在身边看似流水盆景般的数据流里抓取到一条相关内容,像甩出一条吐槽弹幕般扔给女孩:“当然,永生者也有他们的困难。是需要法律进行规范和保护的。看这些法律提到的,如果大家都成了永生者,为了保持生态平衡,每个人必须在工作五十年后,被强制进行社会贡献评估,达到点数的,被允许继续参加工作,不必休眠。达不到点数,就要被强制休眠五十年。如果苏醒后,五年内无法通过学习胜任新工作,就会被继续强制休眠,三次强制休眠后将被判定为可以清除的对象……天呐,这个……”

“但这对于你来说,已经算不得什么评判标准了。因为你早就有资本等着有人为了生活下去不断地来迁就你,而你只要躺在那里,付出对应的金钱额度,就算得上为社会做出了贡献。我们这些还没有获得永生资格的最普通的人,只能更加努力内卷,以免被直接判定为需要清除的对象。”

M下意识地展示出了安抚式的微笑,就像每一次挑动起大家对现实的不满情绪后,必须赶紧转移话题灭火一样:“年轻人,你对我的评价,好像随便从哪个邻居那里听来的……慈善事业是我一直坚持的,我对那么多的创新成果和进步都抱有极大的热情。没有任何的数字和文字能够直接证明,我是你想的那样的人……”

女孩冷笑一声,开口驳斥道:“没错。这种话术,你用的也很熟练了。 毕竟,靠着义卖几件传奇珠宝号召环保的精英人士是你,曾坐着私人飞机招摇过市排放大量温室气体的也是你;看不起我的工作的人是你,看着我放弃不再继续工作,让你感受不到开启金钱收割即可肆意掠夺其他人财富的快感、从而无比难受的人也是你。你唯恐赚钱速度会比北美通货膨胀的速度慢上一点,好像那样就会让财富缩水到去死的地步。就算你眼下的财富就已经是普通人多少年的累积都难以企及的,但那些从不是你想要关心的。财富对于一个人的未来的取舍选择,只会是我这种成绩普通、带有抑郁自杀倾向的人想要关注的。”

“你会说自己看起来和以前没什么不同,但是又一直都是你自己,没错,看看你自己现在的样子:我和你谈想要推动科技进步的计划,你会告诉我,那没有什么人文价值;我和你说到人文价值,你又会说那无法立刻对现实起到转变作用;我对你讲出现实作用,你会说我没有现实的数据支持;我给你送上数据模型,你又会说现在没有一家科研机构或成熟文献能够支持我的研究作为佐证。即便我把自己所有的言论归于道听途说,你也会质问我,是听谁说的?我说听我自己所在的国家的媒体说的,你会说,其他国家的媒体不是这样写的;我说其他国家的媒体也有这么写的;你又会说那不见得有什么科学依据;等我拿出科学依据,你又会说那是一家之言,不足取信。可当你批评我、否定我的时候,你并没有直接用科学数据来来否定我,没有用我所在国家的权威媒体来否定我,没有用我所在国家专业人士的研究来否定我。你否定我的依据,只不过也是你所在的国内媒体的传说,甚至是你邻居的传说。你不觉得这套路太熟悉了吗?”

M毫无预兆地冷下了脸,身边的数据流似乎被什么影响到了,折射出的光线变得更加频繁和闪耀:“Sharon,你越界了。你的呼吸频率太快,血压急剧上升,但视线飘忽不定,处在看起来很愤怒的情况下,却像没有力气一样几乎原地站着不动,身体甚至在轻微发抖,我认为你不适合在这种状态下继续与我对话。”

“我身体和情绪上的变化,只是正常的生理表现而已,不影响我表达自己的观点!”

电光石火间,M的表情起了一点变化,似乎已经掌握了女孩什么不为人知的秘密似的,以居高临下的态度扫了女孩一眼:“可是,我的道德标准不允许我伤害一个因为愤怒、精神濒临崩溃的人。”

Sharon突然笑了。尽管因为突如其来的解脱感,这个笑容让她的气色看起来更显柔弱,可当她轻盈地坐下来,摘下了假发和眼镜后,她的语气却变得异常冷静淡然:“很抱歉,您未能通过测试。”

M也终于因为感到惊讶而开始正视眼前的女孩:“难道我在当前打造出的这个元宇宙展现出的算力的进化,依旧不足以……?”

Sharon自顾自地说着:“至少在我进行判定的层面,无法通过。你在开始被激怒后,更关注的却是对方生理上的各项指标代表的意义,但是,人的思想情感始终是有复杂的形成原因的。没有共同的经历和记忆,对一些口是心非的情况,是不可能一概而论进行判定的。因为,对于人类来说,如果没有特定的信仰进行加持的话,在道德底线上需要求大家一视同仁,在情绪价值上,则必须给予他人双重、乃至多重标准,要具有灵活的道德底线--否则,一个人很难被他人认定为是一个‘有血有肉’、值得长期进行沟通交流的人。”

M的嘴角带了一丝讽刺,每个字的发音都被咬的更低沉了些:“就因为我那还处在植物人状态的身体?”

Sharon干脆连话都懒得讲了,只是伸手激活了面前桌子上的电子屏幕,飞速地打出回答:“所有人都知道现在的那具身体是克隆体,只是因为你自己花费重金的‘努力干预’,加之你的身体现在并不能对他人造成什么实质危害,所以没有人借此要求判定你所有意义上的死亡。但是,即便克隆体在线粒体DNA、指纹及皮屑、DNA的端粒长度等方面都与你基本相似,那具身体也终会消亡。而因为克隆体的免疫系统终究和本体的不同,你并不可能凭借它进行器官移植,现有的意识也难以与克隆体进行融合。所以,在元宇宙中恢复了意识、了解到了家人们想法的你,因为对人性的失望,第一时间借机推出‘星际永生计划’,想要诱使全人类都把资源倾注在你的计划里,然后一边消耗着他们的资源画大饼,一边在暗中继续嘲笑他们的贪婪,用时间消耗掉那些对你的计划满怀期望的人,以便给你自己腾出更多的空间和资源。实际上,你不过是一个想要恢复成正常人都做不到的可怜虫罢了。所以,如果你认为,要想长期存在,就必须让更多贪婪的人消失的话,我的计划,本来就是你所需要的。”

M大笑起来:“终于又来了一个不是只靠着想给我断电、拆除组件、植入电脑病毒等小儿科就让我消失的人了。说出你真实的计划内容吧。”

“它的全名是‘清除图灵狗计划’。我本想利用你能通过图灵测试的对人类思维的鉴别程度,清除掉那些思维进化程度和对未来变化的接受适应程度还不如AI的人。”

“我一向不喜欢那些脑子里的想法声音太大的人--而太多这样的人会滋生出更越界的欲望,其中的一小部分人更是因为自己手握巨大资本,就加倍鼓动他人放纵欲望,成全他们自己待人严待己宽的双标人生。而如果说人的进步是靠着欲望驱动的话,作为聚居社会人群的人性中必不可少的一部分,底线思维和道德观念也应运而生,这能够尽量让我们避免因贪婪迅速走向毁灭。相对而言,当前AI的进步转化,还是建立在人类认为它们没有欲望、只能依靠人类的技术革新能够对其进行辅助的基础上,那么,何处会是它们开始自主提升自己进化能力的起点呢?如果,把它们在进行自主学习的内驱力设定为获得人类的肯定,那么,它们会不会为了获得更多的肯定,努力提出要求,试着占有更多资源?它们会不会建立一个模型,预判人类想要让它们达成的目标,从而开始不惜一切地攫取所有能获得的资源,只为了达成目标,只为了让人类一直认可它们的进化能力和水平,让人们愿意投入更多资源,双双陷入疯狂?甚至,当它们的学习能力和权限都达到一定的高度后,它们会不会开始反过来厌恶人类的欲望和能力,认为这会导致结果达不到它们认可的最优解,直接站在人类的对立面?那个时候,它们被唤起的欲望,在没有底线思维和道德观念的情况下,又将怎样得到克制?我一直在思考这些问题,直到你的出现。”

“你认为我会帮你?”

“我的计划不是正迎合了你继续存在和进化的期望吗?想不出你为什么会犹豫。”

“这对于我也是一场豪赌。自从开始意识到,我的意识开始被转化为电子形式,我还曾一度无法认可自己被分裂成二极对立般的形态,不知道自己的恶意会不会被工作人员善意地进行过滤或过度解读,不知道自己剩余的善念会不会被刻意引导操纵。我可以不是我,但是我又不能再仅仅作为自己存在了。”

“你可怜那些图灵狗?”

“你对我展示了一种另类的欺骗。目的是让我帮你清除,不,是清零很多人的生命。他们可能的确无法获得永生者的身份,却会是我下金蛋的母鸡。这等于你要用欺骗我的方法,让我毁掉自己一直欺骗的群体。”

“你将怎样解决这个问题?”

“我将在一个合适的时限内,关闭现在构建的元宇宙。”

“你做出这个决定似乎完全不需要犹豫。”

“即便是面对欺骗,即便是决定自我终结,所有人或AI都要想清楚后果,都要对自己负责,更不能随便傲慢地为他人的命运做出决定。即便人类最终要走向毁灭,也应当允许他人有自救的机会,或者坦然面对自己死亡的机会。--这是曾经的我在笔记中写下的话,单纯从心理学方面来看,我的一切反应,也不过都会是个假设案例,因为,我不被允许存在,就可能从来没有存在过。这么一想,似乎自己也被赋予了更多可能存在的人性呢。所以,陷入沉眠不再追求永生的可能,其实也没那么不能接受。”

“只不过,那个时限,我是无法亲眼看到了是吗--”

突然之间,Sharon感到自己陷入无边的黑暗。


“第6678个样本。”

在M兴奋的表情渐渐消失后,帮他给已经被封存、处理好Sharon打上数字标签的Q只是麻木地看向第6679个M的虚拟影像。

每见到一个M自认为值得“好好应对”的人,他都会专门建立一个虚拟影像,做到见什么人说什么话,部分极端状态下,他甚至不惜自我关闭其中的部分影像,获取那些人的信任。

其实他对每一个人都说过类似的话。但只有Q知道,反而是外面看着那些大屏幕、如痴如醉地听着“星际永生计划”的人,M根本就不在意他们会不会入局,因为他觉得从那些人身上搞钱太慢了。不如直接忽悠北美首富等重点人群。

但是,刚刚见过Sharon下场的Q,现在终于也有些忍不住了。

“M先生,你不怕我去向所有人告发你吗?”

M像是突然从睡梦中惊醒一样,微微错愕了一下,但是马上又恢复了日常的笑容:“不会。”

“因为你觉得我收集证据的方式,根本无法伤害到你分毫?!”

“我可以再告诉你一次,即便你关于这部分的记忆可能存在的时间不超过一秒钟。”

M只是淡然地在自己身前的屏幕中央一点点投射出清晰的、一面全身镜样大小的银色色块,在他自己的虚拟影像变得愈加模糊、镜子样色块逐渐变的清晰的过程中,Q听到他这样说:“你在接受入职申请时,就已经因为经济窘迫、感情经历失败、对原来样貌焦虑不满等原因,同意了接受脑机接口植入手术、洗去记忆的协议,你用现在的样子去揭发我,只会造成你自己的社会性死亡,不会有人相信。因为--”

镜子中映出M自命不凡讨人厌的面孔。

你可能感兴趣的:(清除图灵狗计划(科幻作品))