Hinton的论文 The Forward-Forward Algorithm: Some Preliminary Investigations 读后感

当前的深度学习软件运行在僵硬的死的硬件上,虽然现在的深度学习算法非常复杂,有数以亿计的参数,但它仍然是 常规的算法。

常规的算法,无论如何复杂,都不可能孕育真正的智能。这点在彭罗斯的 《皇帝的新脑》一书中有很清晰的证明。

现在的计算机,特点是硬件 非常赢,软件非常软,软件与硬件是可分离的,可以无限拷贝,一次编码无限使用。

现在的计算机硬件追求绝对的精确,没有给随机性(真正的随机性,不是随机数那种伪随机)保留空间。

人们尽最大努力消除随机噪声对计算机硬件的影响,虽然计算机硬件的生产利用了量子力学的原理,但它可以被认为是属于经典世界的,它几乎不会出错。

现在的常规软件是 immortal的,也就是说,就算这个硬件坏了,软件仍然可以在其他地方运行。

FFA与现有的数字计算机系统有根本的区别:1)它的硬件不是现在这种用不犯错的数字芯片,而是模拟器件或者忆阻器等,模拟器件的运行是收随机噪声影响的。

2)AI程序是生长在硬件上的,程序的参数的学习过程会受到硬件中的随机性的影响。软件是mortal的,是会死的,也就是说,如果硬件坏了,软件也就失效了,因为软件完全与硬件绑定。反过来,也可以认为它是活的,因为只有活的才会死。

FFA是个创造性的尝试,很可能是迈向真正人工智能的重要转折。

你可能感兴趣的:(深度学习,神经网络,人工智能)