BP神经网络及其设计的一般原则

1 BP神经网络的介绍

BP(back propagation)神经网络是一种按照误差逆向传播算法训练的多层前馈神经网络，是应用最广泛的神经网络。

1. 从结构上讲，BP网络具有输入层、隐藏层和输出层；从本质上讲，BP算法就是以网络误差平方为目标函数、采用梯度下降法来计算目标函数的最小值；
2. 每一层包含若干个神经元，相邻层之间的神经元相互连接（包含一定的连接权值），同一层内的神经元相互不连接；
3. BP神经网络的计算过程由正向计算过程和反向计算过程组成；
4. 正向计算过程，输入模式从输入层经隐单元层逐层处理，并转向输出层，每一层神经元的状态只影响下一层神经元的状态；
5. 反向计算过程，将误差信号沿原来的连接通路返回，通过修改各神经元的权值，使得误差信号最小。
   

2 BP神经网络设计的一般原则

BP神经网络重点在于确定输入层和输出层中的节点数、网络层的层数和隐藏层的节点数，即网络的拓扑结构。

1. 输入层和输出层的节点数是根据具体问题的需要设计的；

2. 3层BP神经网络可以获得任何m维到n维的映射。在设计过程中，一般优先考虑3层网络。

3. 隐藏层节点的数量是BP神经网络设计的关键部分。节点太少，网络的映射能力差，无法达到预期的效果；节点过多会增加网络的训练时间，且精度不一定高。目前对于隐藏层节点数目的选择没有统一的规则，通常是基于实验和实际经验。