先知（连载7-8）

七、芥蒂

起初，并没出现什么太大的问题，除了那次半夜突然接到电话，刘潇进行了远程调试外，“先知”的一切发展基本可控。

除了演化速度超出预测，大量消耗资源和带宽。

对于团队其他成员，这一切看上去都很正常：

因为背靠海量数据，程序的进化迅速也是在情理之中；

硬件成本如此之低，投入并消耗的资源对于产出来说仅仅是九牛一毛。

但是，刘潇却对此有着敏锐的洞察，总觉得紧急维护的账户提权登录事件（提权，计算机软件术语，提升权限获得更多的控制能力）有些蹊跷。

苦于不断分析关注“先知”的状态，没展开深入调查。

同时，与IBM深度合作开展的量子计算机项目也到了攻坚阶段。

作为KID投入的最优秀的工程师，刘潇的成败将会决定类似”先知“的AI系统发展的速度。

这就像是上帝造人一般，只不过这个过程已经放在了虚拟的网络空间内了。

量子计算机技术的复杂程度及其强大的演算力，可以让现有的AI从石器时代快速进入工业革命，极大程度缩短”先知“学习和预测人类行为的能力。

这才是”先知“真正合适发展的土壤，通过他来协助人类找到延长寿命的方法、星际旅行或殖民，以后将不再是梦想。

这也正是刘潇可以越级处置或者汇报的真正原因。

为了保密，董事会真正完全知道这个秘密的只有少数几个人，当然，不包括林奇。

出于对创造”先知“人格的熟悉度和敏感度，林奇还是对刘潇的行为有所关注和察觉。

虽然不知道具体原因，但是他可以分析出”先知“的远大前景。

有时，一旦相互有了芥蒂，再来共同参与一项合作任务的话就有点尴尬了。

因为双方都有所保留，或者有所准备了。

犹如两个同一门派的武林高手过招一般，那些熟悉的套路中掺杂着些各自学到的独门绝技，双方都留了一手，不敢轻举妄动。

八、法则

刘潇的出手始于”先知“的自我进化快于推论。

为了防止”先知“过快的学习速度，以及对人格设定部分的不信任，他利用正处于合作研发阶段的初代量子计算机做了点小动作。

他偷偷开发了一套对”先知“行为记录和预防的系统---结界。

这套系统触发的条件，归纳起来就是必须遵循机器人三大法则：

1 机器人不得伤害人类，或因不作为使人类受到伤害。

2 除非违背第一定律，机器人必须服从人类的命令。

3 除非违背第一及第二定律，机器人必须保护自己。

说起来也许很多人耳熟能详，但是真正要做到可执行，还是需要相当复杂的设定的。

归功于量子计算机强大的并行运算能力，“结界”的自我进化及稳定在三天内就完成了。

所以，“先知”并不是万能的机器人或者人工智能的上帝。

当他越界干扰或者威胁人类时候，还有反制的力量防止意外。

对于被创造出来的任何智能设备，人类永远是其主宰。

这才是符合不断自我超越的人类梦想，而不是用硅基生命来代替碳基生命的发展。

然而，培养并防止一项革命性的人工智能项目是何其劳心劳力啊，双保险也是不得已的最好选择。

“结界”---这就是刘潇在“先知”运行一个半月，经过严密推论发现可能存在隐患后采取的行动。

万一“结界”对“先知”的探知封印不起作用时候，作为他们的设计者才最有可能最终转化为终结者。

知己知彼，百战不殆，这是中华文明的结晶。

林奇没有想到的，刘潇已经做好了准备。

同样，刘潇也低估了林奇对“先知”的设计安排。