计算图的反向传播及误差反向传播(复制《深度学习入门127页》)

1、计算图的反向传播

(1)计算图的反向传播的意义是:告诉对方我希望你的结果以什么样的量级提升/降低
(2)随机梯度下降法在计算梯度时加入随机的因素,于是即便其陷入到局部的极小值点,他计算的梯度仍可能不为0,这样就有可能跳出局部的极小值而继续进行搜索。
计算图的反向传播及误差反向传播(复制《深度学习入门127页》)_第1张图片

2、误差反向传播

计算图的反向传播及误差反向传播(复制《深度学习入门127页》)_第2张图片

你可能感兴趣的:(深度学习)