神经网络——前馈网络、BP网络、BP算法

前馈网络和BP网络的区别

1.前馈神经网络

一种单向多层的网络结构，信息从输入层开始，逐层向一个方向传递，一直到输出层结束。前馈是指输出入方向是前向，此过程不调整权值。神经元之间不存在跨层连接、同层连接，输入层用于数据的输入，隐含层与输出层神经元对数据进行加工。

2.反向传播算法

（英语：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。

3.BP神经网络：

也是前馈神经网络，只是它的参数权重值是由反向传播学习算法调整的。

4.总结：

前馈描述的是网络的结构，指的是网络的信息流是单向的，不会构成环路。它是和“递归网络”(RNN)相对的概念；
BP算法是一类训练方法，可以应用于FFNN，也可以应用于RNN，而且BP也并不是唯一的训练方法，其他可用的还有比如遗传算法（GA）等。所以BP神经网络属于前馈网络，前馈网络不一定是BP网络（还可以用别的算法训练权值参数）