《PyTorch深度学习实践》 第5讲 线性回归

一、视频课：刘二大人05.用PyTorch实现线性回归_哔哩哔哩_bilibili

 二、

__init__函数及self的理解参考链接：

Python中 __init__函数以及参数self怎么理解和使用？ - 知乎

 推荐一篇大佬的笔记，真的非常简洁易懂！

PyTorch学习（四）--用PyTorch实现线性回归_陈同学爱吃方便面的博客-CSDN博客

 三、

参考了上述大佬的代码并加上了画图部分

import torch
import matplotlib.pyplot as plt

x_data = torch.tensor([[1.0], [2.0], [3.0]])
y_data = torch.tensor([[2.0], [4.0], [6.0]])

class LinearModel(torch.nn.Module):
    def __init__(self):
        super(LinearModel,self).__init__()
        # (1,1)是指输入x和输出y的特征维度，这里数据集中的x和y的特征都是1维的
        # 该线性层需要学习的参数是w和b  获取w/b的方式分别是~linear.weight/linear.bias
        self.linear = torch.nn.Linear(1,1)

    def forward(self,x):
        y_pred = self.linear(x)
        return y_pred

model = LinearModel()

e_list = []
l_list = []

criterion = torch.nn.MSELoss(reduction = 'sum')
optimizer = torch.optim.SGD(model.parameters(), lr = 0.01)

for epoch in range(100):
    y_pred = model(x_data)
    loss = criterion(y_pred,y_data)
    print(epoch,loss.item())

    e_list.append(epoch)
    l_list.append(loss.item())

    loss.backward()#自动计算梯度
    optimizer.step()#更新参数
    optimizer.zero_grad()

print('w=',model.linear.weight.item())
print('b=',model.linear.bias.item())

x_test = torch.tensor([[4.0]])
y_test = model(x_test)
print('y_pred=',y_test.data)


plt.plot(e_list,l_list)
plt.ylabel('Loss')
plt.xlabel('epoch')
plt.show()

 结果：

0 28.94320297241211
……
94 0.004254824481904507
95 0.004193667788058519
96 0.004133415874093771
97 0.004074006341397762
98 0.004015424754470587
99 0.00395774282515049
w= 2.0418808460235596
b= -0.09520496428012848
y_pred= tensor([[8.0723]])

 

 四、不同优化器的比较

（1）Adam

把下面这句修改一下即可

#optimizer = torch.optim.SGD(model.parameters(), lr = 0.01)
optimizer = torch.optim.Adam(model.parameters(), lr = 0.01)

参考链接：

pytorch 中 torch.optim.Adam 方法的使用和参数的解释_Arthur-Ji的博客-CSDN博客

 （2）Adamax

用法如上