Pytorch入门学习：自动求导

import torch

x=torch.ones((2,2),requires_grad=True)  #requires_grad表示可以计算这个梯度

y=x+2
z=y*y*3

out= z.mean()  #计算矩阵平均值 结果是个数 相加除以4

print(out)   #tensor(27., grad_fn=<MeanBackward0>)

#out的值和x相关,x相当于out的一个变量
#修改x的结果，out也会跟着改变
#out.backward()对out求导（对x求导）计算梯度的值

#流程：out先对X求导
#在神经网络中，误差反向传播算法，不断地向前一层一层求导，其实就是根据最后网络输出的结果和真实的标新值进行对比 ，
# 然后再每一层的网络在权值下进行求导，再去修改每一层网络的全职，使得模型的效果越来越好
#自动求导机制就在上面那个过程骑着非常重要的作用了
out.backward()
print(x.grad)
# tensor([[4.5000, 4.5000],
#         [4.5000, 4.5000]])

#在backward()前，执行y.retain_grad()，就可以求y.grad了