反向传播算法

反向传播算法适合于多层神经元网络的一种学习算法,它建立在梯度下降法的基础上。反向传播算法网络的输入输出关系实质上是一种映射关系:一个n输入m输出的BP神经网络所完成的功能是从n维欧氏空间向m维欧氏空间中一有限域的连续映射,这一映射具有高度非线性。我们先来看一个简单的例子:
反向传播算法_第1张图片
反向传播算法就是神经网络中加速计算梯度值的方法,但计算机中通常采用计算图来予以计算。如下图所示:
反向传播算法_第2张图片

你可能感兴趣的:(算法,深度学习,人工智能)