使用Pytorch构建一个分类器(CIFAR10模型)

分类器任务和数据介绍

·构建一个将不同图像进行分类的神经网络分类器，对输入的的图片进行判别并完成分类。

·本案例采用CIFAR10数据集作为原始图片数据

·CIFAR10数据集介绍：数据集中每张图片的尺寸是3*32*32，代表彩色3通道

·CIFAR10数据集共有10种不同的分类，分别是"airplane","automobile","bird","cat","deer","dog","frog","horse","ship","truck".

·CIFAR10数据集的样例如下图所示

 训练分类器的步骤

·1：使用torchvision下载CIFAR10数据集

·2：定义卷积神经网络

·3：定义损失函数

·4：在训练集上训练模型

·5：在测试集上测试模型

·1：使用torchvision下载CIFAR10数据集

        ·导入torchvision包来辅助下载数据集

import torch
import torchvision
import torchvision.transforms as transforms

·下载数据集并对图片进行调整，因为torchvision数据集输出的是PILImage格式，数据域在[0,1].我们将其转换为标准数据域[-1,1]的张量格式

import torch
import torchvision
import torchvision.transforms as transforms

transform = transforms.Compose(
    [transforms.ToTensor(),
     transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))])
trainset = torchvision.datasets.CIFAR10(root='./data', train=True,
                                        download=True, transform=transform)
trainloader = torch.utils.data.DataLoader(trainset, batch_size=4,
                                          shuffle=True, num_workers=2)
testset = torchvision.datasets.CIFAR10(root='./data', train=False,
                                       download=True, transform=transform)
testloader = torch.utils.data.DataLoader(testset, batch_size=4,
                                         shuffle=False, num_workers=2)
classes = ('plane', 'car', 'bird', 'cat',
           'deer', 'dog', 'frog', 'horse', 'ship','truck')

·输出结果

Downloading https://www.cs.toronto.edu/~kriz/cifar-10-python.tar.gz to ./data\cifar-10-python.tar.gz
170499072it [15:21, 185017.90it/s]                               
Extracting ./data\cifar-10-python.tar.gz to ./data
Files already downloaded and verified

·如果是在Windows系统下运行上述代码，并且出现报错信息"brokenpipeerror",可以尝试将torch.utils.data.DataLoader()中的num_workers设置为0。

·展示若干训练集的图片

·输出图片结果

 

 输出标签结果

 deer horse  bird   cat

·2：定义卷积神经网络

·仿照Pytorch神经网络中的类来构造此处的类，唯一的区别是此处采用3通道3-channel

import torch.nn as nn
import torch.nn.functional as F


class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        self.conv1 = nn.Conv2d(3, 6, 5)
        self.pool = nn.MaxPool2d(2, 2)
        self.conv2 = nn.Conv2d(6, 16, 5)
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        x = self.pool(F.relu(self.conv1(x)))
        x = self.pool(F.relu(self.conv2(x)))
        x = x.view(-1, 16 * 5 * 5)
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return x


net = Net()
print(net)

·输出结果

Net(
  (conv1): Conv2d(3, 6, kernel_size=(5, 5), stride=(1, 1))
  (pool): MaxPool2d(kernel_size=2, stride=2, padding=0, dilation=1, ceil_mode=False)
  (conv2): Conv2d(6, 16, kernel_size=(5, 5), stride=(1, 1))
  (fc1): Linear(in_features=400, out_features=120, bias=True)
  (fc2): Linear(in_features=120, out_features=84, bias=True)
  (fc3): Linear(in_features=84, out_features=10, bias=True)
)

·3：定义损失函数

·采用交叉熵损失函数和随机梯度下降优化器

import torch.optim as optim

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)

·4：在训练集上训练模型

·采用基于梯度下降的优化算法，都需要很多个轮次的迭代训练。

import torch.optim as optim

criterion = nn.CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0.9)


for epoch in range(2):  # loop over the dataset multiple times
    running_loss = 0.0
    for i, data in enumerate(trainloader, 0):  # data中包含输入图像张量inputs,张量标签labels
        inputs, labels = data
        # 首先将优化器梯度归零
        optimizer.zero_grad()
        # 输入图像张量进网络，得到输出张量outputs
        #X = torch.Tensor(trainset)
        #Y = torch.Tensor(labels)
        #train_dataset = trainset(X, Y)

        #train_loader = trainloader(dataset=train_dataset,
                                 # batch_size=1,
                                  #shuffle=True)
        # num_workers = 2)
        outputs = net(inputs)
        # 利用网络的输出outputs和标签labels计算损失值
        loss = criterion(outputs, labels)
        # 反向传播+参数更新，是标准代码的标准流程
        loss.backward()
        optimizer.step()
        # 打印轮次和损失值
        running_loss += loss.item()
        if (i + 1) % 2000 == 0:
            print('[%d, %5d] loss: %.3f' %
                  (epoch + 1, i + 1, running_loss / 2000))
            running_loss = 0.0
print('Finished Training')

·输出结果

[1,  2000] loss: 2.164
[1,  4000] loss: 1.833
[1,  6000] loss: 1.654
[1,  8000] loss: 1.558
[1, 10000] loss: 1.516
[1, 12000] loss: 1.465
[2,  2000] loss: 1.393
[2,  4000] loss: 1.381
[2,  6000] loss: 1.340
[2,  8000] loss: 1.283
[2, 10000] loss: 1.276
[2, 12000] loss: 1.285
Finished Training

·保存模型

#首先设定模型的保存路径
PATH = './cifar_net.pth'
#保存模型的状态字典
torch.save(net.state_dict(), PATH)

·5：在测试集上测试模型

·第一步，展示测试集中的若干图片

dataiter = iter(testloader)
images, labels = dataiter.next()
#打印原始图片
imshow(torchvision.utils.make_grid(images))
#打印真实的标签
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))

·输出图片结果：

 ·输出标签结果

GroundTruth:    cat  ship  ship plane

·第二步，加载模型并对测试图片进行预测

dataiter = iter(testloader)
images, labels = dataiter.next()
# 打印原始图片
imshow(torchvision.utils.make_grid(images))
# 打印真实的标签
print('GroundTruth: ', ' '.join('%5s' % classes[labels[j]] for j in range(4)))
# 首先实例化模型的类的对象
net = Net()
# 加载训练阶段保存好的模型的状态字典
net.load_state_dict(torch.load(PATH))
# 利用模型对图片进行预测
outputs = net(images)
# 共有十个类别，采用模型计算出的概率最大的作为预测的类别
_, predicted = torch.max(outputs, 1)
# 打印预测标签的结果
print('Predicted: ', ' '.join('%5s' % classes[predicted[j]] for j in range(4)))

·输出结果

Predicted:    cat   car   car  ship

·接下来看一下在全部测试集上的表现

correct = 0
total = 0
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        _, predicted = torch.max(outputs.data, 1)
        total += labels.size(0)
        correct += (predicted == labels).sum().item()

print('Accuracy of the network on the 10000 test images: %d %%' % (
    100 * correct / total))

·输出结果

Accuracy of the network on the 10000 test images: 55 %

·分析结果：对于拥有10个类别的数据集，随机猜测的准确率是10%，模型达到了53%，说明模型学到了真实的东西。

·为了更细致的看一下模型在哪些类上表现得更好，在哪些类上表现得更差，我们分类别的进行准确率的计算

class_correct = list(0. for i in range(10))
class_total = list(0. for i in range(10))
with torch.no_grad():
    for data in testloader:
        images, labels = data
        outputs = net(images)
        _, predicted = torch.max(outputs, 1)
        c = (predicted == labels).squeeze()
        for i in range(4):
            label = labels[i]
            class_correct[label] += c[i].item()
            class_total[label] += 1
for i in range(10):
    print('Accuracy of %5s : %2d %%' % (
        classes[i], 100 * class_total[i] / class_total[i]))

·输出结果

Accuracy of plane : 100 %
Accuracy of   car : 100 %
Accuracy of  bird : 100 %
Accuracy of   cat : 100 %
Accuracy of  deer : 100 %
Accuracy of   dog : 100 %
Accuracy of  frog : 100 %
Accuracy of horse : 100 %
Accuracy of  ship : 100 %
Accuracy of truck : 100 %

在GPU上训练模型

·为了真正利用Pytorch中Tensor的优秀属性，加速模型的训练，我们可以将训练过程转移到GPUY上进行。

·首先要定义设备，如果CUDA是可用的则被定义成GPU，否则被定义成CPU。

device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
print(device)

·输出结果

cuda:0

·当训练模型的时候，只需要将模型转移到GPU上，同时将输入的图片和标签页转移到GPU上即可。

#将模型转移到GPU上
net.to(device)

#将输入的图片张量和标签张量转移到GPU上
inputs, labels = data[0].to(device), data[1].to(device)

总结

·分类器的任务和数据样式

        ·将不同图像进行分类的神经网络分类器，对输入的图片进行判别并完成分类。

        ·采用CIFAR10数据集作为原始图片数据，CIFAR10数据集拥有10个类别的3*32*32彩色图片。

·训练分类器的步骤:

        ·使用torchviosion下载CIFAR10数据集

        ·定义卷积神经网络

        ·定义损失函数

        ·在训练集上训练模型

        ·在测试集上测试模型

·在GPU上训练模型

·首先定义设备，GPU和CPU二选一：

        ·device=torch.device("cuda:0"if torch.cude.is_available() else "cpu")

·然后将模型转移到GPU上去：

        ·net.to(device)

·最后在迭代训练的过程中，每一步都将图片和标签张量转移到GPU上去：

        ·inputs,labels=data[0].to(device),data[1].to(device)