pytorch04

梯度

pytorch04_第1张图片

常见函数梯度:

 激活函数及梯度

pytorch04_第2张图片

torch.sigmod

pytorch04_第3张图片

torch.tanh

pytorch04_第4张图片

F.relu

pytorch04_第5张图片

LOSS及梯度

pytorch04_第6张图片

 MSE

pytorch04_第7张图片

Autograd.grad

pytorch04_第8张图片

LOSS.backward

pytorch04_第9张图片

pytorch04_第10张图片

F.softmax 

pytorch04_第11张图片

感知机及梯度

pytorch04_第12张图片

链式法则

pytorch04_第13张图片

你可能感兴趣的:(python,深度学习)