Pytorch深度学习实践（一）——线性模型

本博客重点介绍深度学习代码框架，对于相关理论不进行更多的介绍。

参考资料

B站刘二老师Pytorch深度学习实践

1. 线性回归

采用深度学习Pytorch框架搭建线性回归模型通常需要四个步骤：

1. 准备数据
2. 构建计算图：
   ①__init__()
   ②forward()
3. 构建损失函数和优化器
4. 训练
   ①向前传播–>损失计算–>向后传播–>更新。

1.1 准备数据

import torch

# 1. 准备数据
x_data = torch.Tensor([[1.0], [2.0], [3.0]])
y_data = torch.Tensor([[2.0], [4.0], [6.0]])

1.2 构建计算图

通过重载nn.Module模块，自定义__init__()函数和forward()函数。

# 2. 构造计算图
class LinearModel(torch.nn.Module):
    def __init__(self):
        super(LinearModel, self).__init__()
        self.linear = torch.nn.Linear(1, 1)

    def forward(self, x):
        y_pred = self.linear(x)
        return y_pred

model = LinearModel()

1.3 构造损失函数和优化器

# 3. 构造损失函数和优化器
criterion = torch.nn.MSELoss()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

1.4 训练过程

# 训练过程
for epoch in range(2000):
    y_pred = model(x_data)                  # forward
    loss = criterion(y_pred, y_data)        # loss
    print(epoch, loss)

    optimizer.zero_grad()
    loss.backward()                         # backward
    optimizer.step()                        # step

print('w = ', model.linear.weight.item())
print('b = ', model.linear.bias.item())

注意点

1. 在构造计算图时，必须定义__init__()和forward()函数模块。
2. 模型训练时，需采用"forward–>loss–>zero_grad–>backward–>step"的步骤更新。