人工智能必然会出错

这个标题源于无人驾驶和人工驾驶交通事故率的对比,我们对二者的态度是不同的。我们可以容忍人类犯错,却不能允许机器人犯错,这样对吗?

人类是不完美的,同样,人工智能也不会是完美的,我们要接受人工智能也会出错的事实。

首先来说人类的各种问题,作为大自然进化的产物,人类是不完美的,表现为疾病,有身体上的,还有精神上的,还有混合的。疾病是大自然在设计人类的时候产生的瑕疵。同理,机器人是人类设计的,也会出现各种“疾病”,根据我目前的观测,人类的设计水平还远远不如大自然。那么,大自然设计的人类都会有疾病等各种问题,那么,人类凭什么要求自己设计的机器人是完美无瑕的呢?

你的回答可能是,机器人的结构是简单的,因此可以不出错。

真的如此吗?软件开发是首先实现功能,然后再通过不断地迭代来逐步完善,大自然也是这样设计人类的。那么,假设一个已经拥有几万个模块的人工智能程序,需要新增几百个心模块,你如何保证这些模块之间是完美匹配的?就不会存在互相矛盾,或者功能有重叠的吗?你使用什么方法,可以验证每一个模块之间是否完全契合,而不是产生冲突?那么三个模块之间,四个模块之间,更多模块之间呢?你可以说,上线之前我已经验证了,没有问题。那么,你利用测试数据进行的验证,真的覆盖了所有可能吗?测试的情况,完全覆盖了所有现实情况吗?人的胃可以消化所有的食物,有时候却可能消化自己,导致胃溃疡。如何保证人工智能的某一组模块不会吞噬自己呢?

机器人的软件也是在硬件的基础之上运行的,硬件和现实环境会接触,进行各种物质交换,如果有一种物质进入机器人体内,导致电路发生改变,出现了异常的行为,这可以完全避免吗?

人类是不完美的,人类的能力是有限的,不如教会机器人如何学习之后,就让它们自己进化,允许它们出错。就像《西部世界》里罗伯特·福特所说的那样,人类就是通过不断地犯错才进化成现在的样子的。同样如此,如果不犯错,机器人如何进化呢?人类凭什么觉得自己比大自然还厉害,可以设计出完美的,不会出错的系统?这种想法,是不是太狂妄了?

因为人类是不完美的无法超越大自然,所以也必然设计不错完美的不会出错的人工智能。所以,不如接受这个现实,人工智能必然会出错,就像人类会生病一样,没必要大惊小怪。

机器人会出错生病怎么办?只要赋予它们一定的“免疫力”,还有自我修复能力,允许它们纠错,我觉得这可能是一个不错的开始。

你可能感兴趣的:(人工智能必然会出错)