pytorch下的第一个神经网络搭建(逻辑回归)

1、问题描述

逻辑回归是机器学习中的一种典型问题,本文结合莫凡的机器学习教程,跑了一下机器学习的基本流程。
问题的输入x是[1001]的一维向量,目标函数是y=xx的函数。具体数据声明如下

x=torch.unsqueeze(torch.linspace(-1,1,100),dim=1)
y=x.pow(2)+0.2*torch.rand(x.size())
x,y=Variable(x),Variable(y)

2、基于pytorth网络模型的创建

  1. 首先声明类Net继承于torch.nn.Module
  2. 对 def init(self,n_features,n_hidden,n_output)函数进行定义,主要功能是定义隐藏层的输入维度是n_features,输出维度是n_hidden
  3. 对 def forward(self,x):函数进行定义,主要功能是将输入的数据x,按部就班的放到网络模型中,我们的x是1001的张量,hidden层是1100的运算,即输入1输出个数为100,在执行x=F.relu(self.hidden(x))后,x变成了100100,在 x=self.predict(x)后,x变成了1001的张量,刚好一个x对应一个y。
class Net(torch.nn.Module):
    # 定义网络的输入输出层的数据维度信息
    def __init__(self,n_features,n_hidden,n_output):
        super(Net,self).__init__()
        self.hidden=torch.nn.Linear(n_features,n_hidden)
        self.predict=torch.nn.Linear(n_hidden,n_output)
    # x为输入信息data,forward用来搭建网络
    def forward(self,x):
        x=F.relu(self.hidden(x))
        x=self.predict(x)
        return x
# 第二种方法搭建
net=torch.nn.Sequential(
    torch.nn.Linear(1,100),
    torch.nn.ReLU(),
    torch.nn.Linear(100,1)
)

3、定义网络、优化模型及损失函数

  • net=Net(1,10,1)相当于c++中调用了类Net的构造函数__init__,定义输入的n_features=1,n_hidden=10,n_output=1,有10个隐藏层。
  • optimizer=torch.optim.SGD(net.parameters(),lr=0.2)采用随机梯度下降进行优化,lr是学习速率,相当于梯度下降的幅度。
  • loss_func=torch.nn.MSELoss()损失函数采用MSE均值误差来评估。
# 使用:定义一下我们网络
net=Net(1,10,1)
plt.ion() 
plt.show()
# 优化
# parameters神经网络中的所有训练信息,包括梯度值
optimizer=torch.optim.SGD(net.parameters(),lr=0.2)
loss_func=torch.nn.MSELoss()

4、开始训练

# 训练100次
for i in range(100):
    prediction=net(x)
    loss=loss_func(prediction,y)
    # 进行优化,先将上一次的梯度值清零
    optimizer.zero_grad()
    # 反向计算出各节点的梯度
    loss.backward()
    # 逐步进行梯度优化,更新权重
    optimizer.step()
    if i%5==0:
        plt.cla()
        plt.scatter(x.data.numpy(),y.data.numpy())
        plt.plot(x.data.numpy(),prediction.data.numpy(),'r-',lw=5)
        plt.pause(0.1)
plt.ioff()
plt.show()

5、最后结果图

image.png

你可能感兴趣的:(pytorch下的第一个神经网络搭建(逻辑回归))