Pytorch深度学习实践课程-线性回归

线性回归的步骤

①准备数据集
②设计模型
③构造损失函数和优化器
④写训练周期(前馈、反馈、更新)

线性回归实现

以y=2x为例子实现,最终迭代的w =2,b =0为最终的迭代目标,选择学习率为0.01,初始化w为1
运行在jupyter上

import torch
import matplotlib.pyplot as plt


x_data = torch.Tensor([[1.0],[2.0],[3.0]])
y_data = torch.Tensor([[2.0],[4.0],[6.0]])

class LinearModel(torch.nn.Module):
    def __init__(self):#构造函数
        super(LinearModel,self).__init__()
        self.linear = torch.nn.Linear(1,1)#构造对象,并说明输入输出的维数,第三个参数默认为true,表示用到b
    def forward(self, x):
        y_pred = self.linear(x)#可调用对象,计算y=wx+b
        return  y_pred

model = LinearModel()#实例化模型
criterion = torch.nn.MSELoss(reduction='sum')
#model.parameters()会扫描module中的所有成员,如果成员中有相应权重,那么都会将结果加到要训练的参数集合上
optimizer = torch.optim.SGD(model.parameters(),lr=0.01)#lr为学习率
# optimizer = torch.optim.Adagrad(model.parameters(), lr=0.01)
# optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
# optimizer = torch.optim.Adamax(model.parameters(), lr=0.01)
# optimizer = torch.optim.ASGD(model.parameters(), lr=0.01)
# optimizer = torch.optim.LBFGS(model.parameters(), lr=0.01)
# optimizer = torch.optim.RMSprop(model.parameters(), lr=0.01)
# optimizer = torch.optim.Rprop(model.parameters(), lr=0.01)


epoch_list = []
loss_list = []

for epoch in range(1000):
    y_pred = model(x_data)
    loss = criterion(y_pred,y_data)
    print(epoch,loss.item())
    epoch_list.append(epoch)
    loss_list.append(loss.item())
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

print('w=',model.linear.weight.item())
print('b=',model.linear.bias.item())

x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print('y_pred = ', y_test.data)

#epoch_list=[]
#loss_list=[]
#epoch_list.append(epoch)如果这四句写在这,就会显示未定义epoch
#loss_list.append(loss.item())

print('w=', model.linear.weight.item())
print('b=', model.linear.bias.item())

x_test = torch.Tensor([[4.0]])
y_test = model(x_test)
print('y_pred=', y_test.data)

plt.plot(epoch_list, loss_list)
plt.ylabel('loss')
plt.xlabel('epoch')
plt.show()

SGD运行结果:
Pytorch深度学习实践课程-线性回归_第1张图片
Adagrad运行结果:
Pytorch深度学习实践课程-线性回归_第2张图片
Adam运行结果:
Pytorch深度学习实践课程-线性回归_第3张图片
Adamax运行结果:
Pytorch深度学习实践课程-线性回归_第4张图片
ASGD运行结果:
Pytorch深度学习实践课程-线性回归_第5张图片
RMSprop运行结果:
Pytorch深度学习实践课程-线性回归_第6张图片
Rprop运行结果:
Pytorch深度学习实践课程-线性回归_第7张图片

内容参考:https://blog.csdn.net/LeungSr/article/details/119347310

你可能感兴趣的:(机器学习知识总结,python,机器学习,深度学习)