Hopfield神经网络的通俗理解

Hopfield网络 和BP神经网络区别和联系。

       前馈型神经网络通过引入隐层及非线性转移函数（激活函数）使得网络具有复杂的非线性映射能力。前馈网络的输出仅由当前输入和权矩阵决定，而与网络先前的输出状态无关。而Hopfield神经网络，会把其输出反馈给输出，从而具有时序性的特定。因此需要通过微分方程或差分方程描述网络的动态数学模型。Hopfield神经网络具有能量函数的概念，来表示当前网络的稳定状态。当达到最小值的时候，表示网络最稳定。类似前馈神经网络的误差函数。Hopfield网络分为连续性和离散型，分别记为CHNN和DHNN。

HopField网络具有下面的特征。

    1 系统具有若干个稳定状态，对应了能量函数的局部最小值。如果从某一个初始状态开始运动，系统总是可以进入某一个稳定状态。

    2  系统的稳定状态，可以通过改变各个神经元之间的连接得到。

    3  经过特殊设计的能量函数，可以使得，从任意状态开始，系统的演变都会使得能量函数单调减少，从而最后稳定到最小值。

下图HopField一个例子。其中 v1v2v3是节点。w12 w21 w13 w31 w23 w32 是对称的权重矩阵W。右图各个状态直接的连线表示状态之间的跳转概率。 图中 111 和 010 就是一个稳定的吸引子。最右侧表示了能量函数的下降方向。系统从任意一个状态开始跳转，总是沿着能量单调下降的方向进行，最终回达到某一个稳定状态。也就是能量最低的状态。

求解系统稳定状态的方式有两种。

        1  通过规则计算得出。

        2  通过一定的学习算法，自动得到，所需要的权重和参数(比如通过Hebbe学习规则，误差学习规则)

HopField的用途和意义。

        1 可以用于记忆和联想。因为，每个HopField都有特定的稳定状态，就相当于该网络对这些状态具有了记忆。从一些相关的，不全的记忆，可以触发类似联想的过程，最终稳定到某个稳定状态。非常类似人类的记忆和联想过程。

        

关于Hopfield的详细资料，可以参考。  

    http://www.docin.com/p-921356154.html