tensorflow学习笔记——3——神经网络优化算法

转载自TensorFlow实战Google深度学习框架（第2版）

 

1.本节介绍如何通过反向传播算法和梯度下降算法调整神经网络中参数的取值。梯度下降算法主要用于优化单个参数的取值，而反向传播算法给出了一个高效的方式在所有参数上使用梯度下降算法，从而使神经网络模型在训练数据上的损失函数更小。