P30 利用GPU训练（一）

新建python文件 train_gpu_1.py
先把之前的train3复制过来
然后不要import 模型
自己手打CLass Tudui

全部代码：

import torch
import torchvision
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

from torch import nn

#准备数据集


train_data=torchvision.datasets.CIFAR10("./P27_datasets",train=True,
                                        transform=torchvision.transforms.ToTensor(),
                                        download=True)

test_data=torchvision.datasets.CIFAR10("./P27_datasets",train=False,
                                       transform=torchvision.transforms.ToTensor(),
                                       download=True)
#获取数据集的长度
train_data_size=len(train_data)
test_data_size=len(test_data)
#如果train_dataset_size=10  输出为
#训练数据集的长度为：10
print("训练数据集的长度为{}:".format(train_data_size))
print("测试数据集的长度为{}：".format(test_data_size))

#加载数据集
train_dataloader=DataLoader(train_data,batch_size=64)
test_dataloader=DataLoader(test_data,batch_size=64)


#创建网络：
class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()
        self.model=nn.Sequential(
            nn.Conv2d(3,32,kernel_size=5,stride=1,padding=2),
            nn.MaxPool2d(2),
            nn.Conv2d(32,32,5,1,2),
            nn.MaxPool2d(2),
            nn.Conv2d(32,64,5,1,2),
            nn.MaxPool2d(2),
            nn.Flatten(),
            nn.Linear(64*4*4,64),
            nn.Linear(64,10)
        )
    def forward(self,x):
        x=self.model(x)
        return x
tudui=Tudui()

#创建损失函数
loss_fn=nn.CrossEntropyLoss()

#创建优化器
learning_rate=0.001
#或者写成科学计数法
#learning_rate=1e-2
optimizer=torch.optim.SGD(tudui.parameters(),lr=learning_rate)

#设置训练网络的一些参数：
#记录训练记录
total_train_step=0

#记录测试的次数
toatl_test_step=0

#训练的轮数
epoch=10

#添加tensorboard
writer=SummaryWriter("./P28_trian3_tensorboard")



for i in range(epoch):
    print("--------第{}轮训练开始-----".format(i+1))
    #训练开始
    for data in train_dataloader:
        imgs,targets=data
        outputs=tudui(imgs)
        loss=loss_fn(outputs,targets)
        # 优化器优化模型
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
        #记录训练次数
        total_train_step=total_train_step+1
        if total_train_step %100==0:
            print("训练次数：{},Loss:{}".format(total_train_step,loss.item()))
            writer.add_scalar("train_loss",loss.item(),total_train_step)


    #测试步骤开始
    total_accuracy=0
    total_test_loss=0
    with torch.no_grad():
        for data in test_dataloader:
            imgs,targets=data
            outputs=tudui(imgs)
            loss=loss_fn(outputs,targets)
            total_test_loss=total_test_loss+loss.item()
            accuracy=(outputs.argmax(1)==targets).sum()
            total_accuracy=total_accuracy+accuracy

    print("整体测试集上的Loss：{}".format(total_test_loss))
    print("整体测试集上的正确率：{}".format(total_accuracy/test_data_size))

    writer.add_scalar("test_loss",total_test_loss,toatl_test_step)
    writer.add_scalar("test_accracy",total_accuracy/test_data_size,toatl_test_step)
    toatl_test_step=toatl_test_step+1

    #每一轮模型保存
    torch.save(tudui,"tudui_{}.pth".format(i))
    print("模型已保存")

writer.close()

一、返回cuda

1、tudui网络模型转移到cuda上面

2、损失函数转移到cuda

3、数据转移到cuda

分别把训练、测试转移

完整代码：

import torch
import torchvision
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

from torch import nn

#准备数据集


train_data=torchvision.datasets.CIFAR10("./P27_datasets",train=True,
                                        transform=torchvision.transforms.ToTensor(),
                                        download=True)

test_data=torchvision.datasets.CIFAR10("./P27_datasets",train=False,
                                       transform=torchvision.transforms.ToTensor(),
                                       download=True)
#获取数据集的长度
train_data_size=len(train_data)
test_data_size=len(test_data)
#如果train_dataset_size=10  输出为
#训练数据集的长度为：10
print("训练数据集的长度为{}:".format(train_data_size))
print("测试数据集的长度为{}：".format(test_data_size))

#加载数据集
train_dataloader=DataLoader(train_data,batch_size=64)
test_dataloader=DataLoader(test_data,batch_size=64)


#创建网络：
class Tudui(nn.Module):
    def __init__(self):
        super(Tudui, self).__init__()
        self.model=nn.Sequential(
            nn.Conv2d(3,32,kernel_size=5,stride=1,padding=2),
            nn.MaxPool2d(2),
            nn.Conv2d(32,32,5,1,2),
            nn.MaxPool2d(2),
            nn.Conv2d(32,64,5,1,2),
            nn.MaxPool2d(2),
            nn.Flatten(),
            nn.Linear(64*4*4,64),
            nn.Linear(64,10)
        )
    def forward(self,x):
        x=self.model(x)
        return x
tudui=Tudui()
tudui=tudui.cuda()

#创建损失函数
loss_fn=nn.CrossEntropyLoss()
loss_fn=loss_fn.cuda()

#创建优化器
learning_rate=0.001
#或者写成科学计数法
#learning_rate=1e-2
optimizer=torch.optim.SGD(tudui.parameters(),lr=learning_rate)

#设置训练网络的一些参数：
#记录训练记录
total_train_step=0

#记录测试的次数
toatl_test_step=0

#训练的轮数
epoch=10

#添加tensorboard
writer=SummaryWriter("./P28_trian3_tensorboard")



for i in range(epoch):
    print("--------第{}轮训练开始-----".format(i+1))
    #训练开始
    for data in train_dataloader:
        imgs,targets=data
        imgs=imgs.cuda()
        targets=targets.cuda()
        outputs=tudui(imgs)
        loss=loss_fn(outputs,targets)
        # 优化器优化模型
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
        #记录训练次数
        total_train_step=total_train_step+1
        if total_train_step %100==0:
            print("训练次数：{},Loss:{}".format(total_train_step,loss.item()))
            writer.add_scalar("train_loss",loss.item(),total_train_step)


    #测试步骤开始
    total_accuracy=0
    total_test_loss=0
    with torch.no_grad():
        for data in test_dataloader:
            imgs,targets=data
            imgs=imgs.cuda()
            targets=targets.cuda()
            outputs=tudui(imgs)
            loss=loss_fn(outputs,targets)
            total_test_loss=total_test_loss+loss.item()
            accuracy=(outputs.argmax(1)==targets).sum()
            total_accuracy=total_accuracy+accuracy

    print("整体测试集上的Loss：{}".format(total_test_loss))
    print("整体测试集上的正确率：{}".format(total_accuracy/test_data_size))

    writer.add_scalar("test_loss",total_test_loss,toatl_test_step)
    writer.add_scalar("test_accracy",total_accuracy/test_data_size,toatl_test_step)
    toatl_test_step=toatl_test_step+1

    #每一轮模型保存
    torch.save(tudui,"tudui_{}.pth".format(i))
    print("模型已保存")

writer.close()

4、运行一下，还是挺快的

训练次数：6800,Loss:1.8188573122024536
训练次数：6900,Loss:1.9893739223480225
训练次数：7000,Loss:1.9036908149719238
整体测试集上的Loss：305.593309879303
整体测试集上的正确率：0.3043999969959259
模型已保存
--------第10轮训练开始-----
训练次数：7100,Loss:2.066310167312622
训练次数：7200,Loss:1.9233098030090332
训练次数：7300,Loss:2.0878043174743652
训练次数：7400,Loss:1.7443344593048096
训练次数：7500,Loss:2.0257949829101562
训练次数：7600,Loss:1.8980073928833008
训练次数：7700,Loss:1.9671798944473267
训练次数：7800,Loss:1.8896164894104004
整体测试集上的Loss：301.40983188152313
整体测试集上的正确率：0.31630000472068787
模型已保存

5、更好的写法：

tudui=Tudui()
if torch.cuda.is_available():
    tudui=tudui.cuda()

……
if torch.cuda.is_available():
    loss_fn=loss_fn.cuda()
……
        if torch.cuda.is_available():
            imgs=imgs.cuda()
            targets=targets.cuda()

……
  if torch.cuda.is_available():
                imgs=imgs.cuda()
                targets=targets.cuda()

但是这样挺累的。。

6、调整学习率为0.01再跑一遍：

就和up主差不多了 ，正确率50多以上

--------第9轮训练开始-----
训练次数：6300,Loss:1.4029728174209595
训练次数：6400,Loss:1.1114188432693481
训练次数：6500,Loss:1.5977591276168823
训练次数：6600,Loss:1.0503333806991577
训练次数：6700,Loss:1.132214069366455
训练次数：6800,Loss:1.1668838262557983
训练次数：6900,Loss:1.1765074729919434
训练次数：7000,Loss:0.9608389735221863
整体测试集上的Loss：201.16121822595596
整体测试集上的正确率：0.5424999594688416
模型已保存
--------第10轮训练开始-----
训练次数：7100,Loss:1.2530179023742676
训练次数：7200,Loss:1.0047394037246704
训练次数：7300,Loss:1.133361577987671
训练次数：7400,Loss:0.8593324422836304
训练次数：7500,Loss:1.2483118772506714
训练次数：7600,Loss:1.2560092210769653
训练次数：7700,Loss:0.8705365061759949
训练次数：7800,Loss:1.2331193685531616
整体测试集上的Loss：192.12796568870544
整体测试集上的正确率：0.5651999711990356
模型已保存

二、比较cpu与gpu速度：

1、import time
可以看第一次训练100次时间

cpu用了25秒

2、看gpu只用了2秒