链式传导反向传播 | Back-Propagation公式推导

链式传导反向传播 | Back-Propagation

目标

求损失函数对各个参数参数的倒数
在这里插入图片描述

例子

链式传导反向传播 | Back-Propagation公式推导_第1张图片
链式传导反向传播 | Back-Propagation公式推导_第2张图片
在这里插入图片描述
f(x)为激活函数

目标:
求出损失函数对各个参数的导数
链式传导反向传播 | Back-Propagation公式推导_第3张图片
在这里插入图片描述

链式传导反向传播 | Back-Propagation公式推导_第4张图片
对于L对w5,w6的导数
链式传导反向传播 | Back-Propagation公式推导_第5张图片
链式传导反向传播 | Back-Propagation公式推导_第6张图片
对于L对w1,w2,w3,w4的导数
链式传导反向传播 | Back-Propagation公式推导_第7张图片
链式传导反向传播 | Back-Propagation公式推导_第8张图片
w3,w4同上

你可能感兴趣的:(深度学习基础知识,深度学习,计算机视觉,人工智能)