机器学习——BP神经网络

1.BP神经网络的思想：

BP 神经网络的基本思想就是根据梯度下降法不断更新，输入，输出权值得到的模型。

BP(back propagation)神经网络是非线性不确定性数学模型，是一种具有连续传递函数的多层前馈人工神经网络，训练方式是误差反向传播算法(BP 算法)，并以均方误差最小化为目标不断修改网络的权值和阈值，最终能高精度地拟合数据。

 

2.BP网络由输入层、隐含层和输出层3个神经层次组成，其拓扑结构如图

                                                            

3.流程

(1)工作信号的正向传播。网络在输入层将接收输入信号传递到隐含层，再经由隐含层传向输出层并在此生成输出信号，在这个过程中，工作信号只进行正向传播并且始终保持各层的阈值和权值固定不变，每一层神经元的状态只决定于上一层神经元的状态。若输出层得到的不是期望的输出，就转入过程(2)；

(2)误差信号的反向传播。误差信号指的是网络的实际输出与期望输出的差值，输出层得到误差信号后将它逐层向前传输形成误差信号的反向传播。在这一过程中，网络通过误差反馈调节修正各层的阈值和权值，从而达到网络的实际输出逐步逼近期望输出的目的。