深度学习（PyTorch）——逻辑斯蒂回归（Logistic）

B站up主“刘二大人”视频 笔记

说在前面：
虽然这叫回归模型，但是它分两种：能用于回归，也能用于分类；
本节是讲的二分类，背景是：学习多少小时能够考试通过；
训练好模型以后，直接用来预测，4小时的学习，能够通过的概率是多大？
详细过程（本节开始，只说与之前代码的不同之处）：
在加载工具包的时候，由于要使用 sigmoid 的函数，而这个函数，是在 torch.nn.functional 当中的，所以，先设置一个句柄等待使用： torch.nn.functional as F;
导入的数据中，y_data的值，不再是原来的预测：学习多久，得多少分？而是： x_data 个小时，是否会通过考试，把原本的预测回归问题，转为预测分类问题，而且此处是二分类，最终预测结果只有0和1，要么通过，要么不通过；
在用于创建模型的类中，需要把原本的前向传播，计算结果转为概率，那么就需要用到 sigmoid 函数，这个函数，值域是（0,1），把原本输出的得分数值转为能够通过考试的概率，就是在这里用到了 F 这个函数句柄，F.sigmoid;
另一个变化是损失函数，这里不在使用原本的MSE函数，而是使用分类任务常用的交叉熵损失函数，这个里面的原理，需要懂，刘老师讲完一下子就理解了，用到了 torch,nn,BCELoss 函数；
由于是分类任务，那么最后的预测，与之前的回归任务就不一样了，测试的时候，直接把一个需要预测的值传入模型当中：x_test = torch.Tensor（[[4.0]]） y_test = model（x_test）

程序如下：

import torch.nn.functional as F
import torch
import numpy as np
import matplotlib.pyplot as plt

# 1.准备数据集
x_data = torch.Tensor([[1.0], [2.0], [3.0]])  # 3*1矩阵
y_data = torch.Tensor([[0], [0], [1]])


# 2.模型的构造
class LogisticRegressionModel(torch.nn.Module):  # LinearModel类继承父类Module
    def __init__(self):
        super(LogisticRegressionModel, self).__init__()
        self.linear = torch.nn.Linear(1, 1, bias=True)  # 类nn.Linear包含了2个tensor对象：权重w，偏置b。Linear也是继承Module
        # nn表示neural network，self.linear是个对象

    def forward(self, x):
        y_pre = F.sigmoid(self.linear(x))
        return y_pre


model = LogisticRegressionModel()

# 3.选择损失函数和优化器
criterion = torch.nn.BCELoss(size_average=False)  # 构造损失函数
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)  # 构造优化器 lr为学习率

# 4.训练循环（前馈，反馈，更新）
for epoch in range(1000):
    y_pre = model(x_data)  # 在前馈算y_hat
    loss = criterion(y_pre, y_data)  # 计算损失
    print(epoch, loss)
    optimizer.zero_grad()  # 把所有权重的梯度归零
    loss.backward()  # 反馈
    optimizer.step()  # 更新
print('w= ', model.linear.weight.item())
print('b= ', model.linear.bias.item())

x_test = torch.Tensor([[4.0]])  # 1*1矩阵
y_test = model(x_test)
print('y_pre= ', y_test.data)

# 数据可视化
x = np.linspace(0, 10, 200)  # x在0-10之间取200个点
x_t = torch.Tensor(x).view((200, 1))  # 把x变成200行，1列的矩阵，类似于numpy的reshape
y_t = model(x_t)
y = y_t.data.numpy()  # 取y_t的数据，该数据为一个n维数组
plt.plot(x, y)
plt.plot([0, 10], [0.5, 0.5], c='r')  # 在x=0-10，y=0.5处画一条红色直线
plt.xlabel('Hours')
plt.ylabel('Probability of Pass')
plt.grid()
plt.show()

运行结果如下：

 

视频截图如下： 

 torchvision里有很多的数据集

 

logistic 函数就是sigmoid 函数 

 饱和函数