blog4

第四次作业:CNN实战

前言

本博客为OUC2022秋季软件工程第四周作业

学习记录

–叶鹏

使用VGG模型进行猫狗大战

练习部分

同 高峰老师激情线上教学

不再赘述

练习赛部分
准备部分

####### 材料下载与准备

在比赛页面下载需要的图片压缩包,为了对接summitgao的程序,对图片目录做一定的修改

blog4_第1张图片

####### colab准备

在云端解压所需文件

blog4_第2张图片
模型训练部分

####### 数据处理

datasets 是 torchvision 中的一个包,可以用做加载图像数据。它可以以多线程(multi-thread)的形式从硬盘中读取数据,使用 mini-batch 的形式,在网络训练中向 GPU 输送。在使用CNN处理图像时,需要进行预处理。图片将被整理成 224×224×3 的大小,同时还将进行归一化处理。

blog4_第3张图片

将处理后的数据载入到各自的DataLoader容器内

####### 创建vgg model

修改最后一层,冻结前面层的参数

blog4_第4张图片

####### 训练并测试全连接层

  1. 创建损失函数和优化器

    损失函数 NLLLoss() 的 输入 是一个对数概率向量和一个目标标签.

    它不会为我们计算对数概率,适合最后一层是log_softmax()的网络.

    blog4_第5张图片
  2. 训练模型

    blog4_第6张图片 blog4_第7张图片

    我这里设置epochs = 10,训练了10次,每次20000个数据集,用时爆幹长,其实不用设置这么多

  3. 测试模型,生成所需的结果csv文件

    blog4_第8张图片
练习赛部分
  1. 将生成的resule.csv上传到比赛评测器

    image-20221022111609229 blog4_第9张图片 blog4_第10张图片
  2. 获取对应分数

    blog4_第11张图片

–王匀卓

下载数据

blog4_第12张图片

数据处理

datasets 是 torchvision 中的一个包,可以用做加载图像数据。它可以以多线程(multi-thread)的形式从硬盘中读取数据,使用 mini-batch 的形式,在网络训练中向 GPU 输送。在使用CNN处理图像时,需要进行预处理。图片将被整理成 224×224×3 的大小,同时还将进行归一化处理。

blog4_第13张图片 blog4_第14张图片

数据处理完后,会生成上述以cat_dog为文件名的文件结构。

创建 VGG Model

torchvision中集成了很多在 ImageNet (120万张训练数据) 上预训练好的通用的CNN模型,可以直接下载使用。

在本课程中,我们直接使用预训练好的 VGG 模型。同时,为了展示 VGG 模型对本数据的预测结果,还下载了 ImageNet 1000 个类的 JSON 文件。

在这部分代码中,对输入的5个图片利用VGG模型进行预测,同时,使用softmax对结果进行处理,随后展示了识别结果。可以看到,识别结果是比较非常准确的。

训练并测试全连接层

包括三个步骤:第1步,创建损失函数和优化器;第2步,训练模型;第3步,测试模型。

blog4_第15张图片 blog4_第16张图片 blog4_第17张图片

实验中遇到的问题

不知道如何生成需要提交的.csv文件

解决方案:找到了下列代码:

def result_model(model,dataloader,size):
    model.eval()
    predictions=np.zeros((size,2),dtype='int')
    i = 0
    for inputs,classes in dataloader:
        inputs = inputs.to(device)
        outputs = model(inputs)         
        #_表示的就是具体的value,preds表示下标,1表示在行上操作取最大值,返回类别
        _,preds = torch.max(outputs.data,1)
        predictions[i:i+len(classes),1] = preds.to('cpu').numpy();
        predictions[i:i+len(classes),0] = np.linspace(i,i+len(classes)-1,len(classes))
        #可在过程中看到部分结果
        print(predictions[i:i+len(classes),:])
        i += len(classes)
        print('creating: No. ', i, ' process ... total: ', size)        
    return predictions

result = result_model(model_vgg_new,loader_test,size=dset_sizes['test'])

np.savetxt("./cat_dog/result.csv",result,fmt="%d",delimiter=",")

这行代码需要根据自己的文件结构进行修改:

result = result_model(model_vgg_new,loader_test,size=dset_sizes['test'])```

–张丁月

一、实验步骤

1.代码环境配置

首先创建claboratory文件

blog4_第18张图片

然后测试是否需要GPU上

blog4_第19张图片

2.数据下载

可以下载的训练集,包含1800张图(猫的图片900张,狗的图片900张),测试集包含2000张图。为了之后的猫狗大战,我选择直接下载好猫狗大战比赛的官方数据集,上传谷歌云盘并解压

blog4_第20张图片

3.数据预处理

(1)图片将被整理成 224 × 224 × 3 224\times 224 \times 3224×224×3 的大小,同时还将进行归一化处理。
(2)其他的一些对数据的复杂的预处理/变换

(3)设置VGG的格式

(4)加载图像的数据。

blog4_第21张图片

(5)将数据拆分为训练集和有效集

(6)取一小部分数据用来做可视化

blog4_第22张图片

打印图片和对应结果:

blog4_第23张图片

打印取出的几张图片

blog4_第24张图片

由图可知:

(1)input_try是5张244x244x3(RGB三通道)的小图片;

(2)lable_try是这五张图片对应的标签,都是0,说明,这五张照片都是猫。

4.创建VGG

blog4_第25张图片

接下来的dic_imagenet是各种动物的标签。

来源自下载的模型中会对数据有一个分类的总概率分布,有5000种分类,dic_imagenet适合最终的分类概率有关的一个数。

blog4_第26张图片

打印出结果,观测可知:

  • 结果为5行(因为一共是5张图片嘛),1000列的数据,每一列在不同dic_imagenet 目标识别的结果。
  • 结果非常奇葩,有负数,有正数。
  • 为了好看(至少让数据看起来像一个概率),我们把结果输入到 Softmax 函数。

5.修改最后一层网络,冻结前面层的参数

​ 因为我们使用的模型是现成的、预训练好的模型,所以大部分的模型参数我们都不需要动,只需要动最后全连接层输出部分的参数就可以了(也就是修改最后一层网络)。
因此,

​ 需要把最后的 nn.Linear 层由1000类,替换为2类。为了在训练中冻结前面层的参数,需要设置 required_grad=False。这样,反向传播训练梯度时,前面层的权重就不会自动更新了。训练中,只会更新最后一层的参数。

blog4_第27张图片

blog4_第28张图片

6.训练全连接层

​ 虽然VGG大部分层数参数不需要更改,但是毕竟最后输出还是要靠全连接层,最后一层的参数是发生变动的(相当于前面99%的网络都别人训练好的,我就训练最后的1%),所以我们还是需要训练、并测试全连接层。

12

blog4_第29张图片

blog4_第30张图片

7.测试整个模型

现在整个模型都训练好了,那就理所应当的跑一跑,测试而已。

现在输入的是Valid集,因为它自带标签,可以用来统计一些误差数据。

blog4_第31张图片

blog4_第32张图片

8.可视化输出结果

打印结果,其中0是猫;1是狗

blog4_第33张图片

9.输出csv

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-VkmzyeFc-1666446273445)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/18.png)]

blog4_第34张图片

测试结果如下:

20

二、实验总结

​ 这次实验还是遇到了很多问题,不过前面的解决起来都很容易,因为有老师发的教程,最难还是最后导出实验结果csv文件那里,最开始我仿照大佬的代码,发现最后导出格式错误,以为是前面训练测试模型的毛病,找了半天,最后又把代码改错了,总之绕了好大一个圈子,最后才醒悟是导出csv文件那一部分代码的锅。也算是长个教训吧,以后找错误时要动动脑子。

–杨淋云

一、在谷歌Colab上完成猫狗大战VGG模型的迁移学习

在本教程中,我们将建立一个模型来完成猫狗大战竞赛题目。在这个比赛中,有25000张标记好的猫和狗的图片用做训练,有12500张图片用做测试。

blog4_第35张图片

1.下载数据

一个新的数据集,训练集包含1800张图(猫的图片900张,狗的图片900张),测试集包含2000张图。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-yu6f18Ue-1666446273446)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022163439.png)]

2.数据处理

datasets 是 torchvision 中的一个包,可以用做加载图像数据。它可以以多线程(multi-thread)的形式从硬盘中读取数据,使用 mini-batch 的形式,在网络训练中向 GPU 输送。在使用CNN处理图像时,需要进行预处理。图片将被整理成224×224×3的大小,同时还将进行归一化处理。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-MeHMz89S-1666446273447)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022165250.png)][外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-bwZCAjel-1666446273447)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022170541.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BEotVFTY-1666446273448)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/S801_J4WR1B31G{B}UA%1UW.png)]

3.创建VCG模型

torchvision中集成了很多在 ImageNet (120万张训练数据) 上预训练好的通用的CNN模型,可以直接下载使用。在本课程中,我们直接使用预训练好的 VGG 模型。同时,为了展示 VGG 模型对本数据的预测结果,还下载了 ImageNet 1000 个类的 JSON 文件。在这部分代码中,对输入的5个图片利用VGG模型进行预测,同时,使用softmax对结果进行处理,随后展示了识别结果。可以看到,识别结果是比较非常准确的。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Oy5wNEUm-1666446273448)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/BT158~_(BK5ZK1H4W_NK%)]J.png)

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-vWgpgSwK-1666446273448)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022170803.png)]

4.修改最后一层,冻结前面层的参数

我们的目标是使用预训练好的模型,因此,需要把最后的nn.Linear层由1000类,替换为2类。为了在训练中冻结前面层的参数,需要设置required_grad = False。这样,反向传播训练梯度时,前面层的权重就不会自动更新了。训练中,只会更新最后一层的参数。

blog4_第36张图片

5.训练并测试全连接层

包括三个步骤:第1步,创建损失函数和优化器;第2步,训练模型;第3步,测试模型。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-eq9wxUho-1666446273449)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022170923.png)]

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-aGNHyKGm-1666446273449)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022170958.png)]

6.可视化模型预测结果

主观分析就是把预测的结果和相对应的测试图像输出出来看看,一般有四种方式:

  • 随机查看一些预测正确的图片
  • 随机查看一些预测错误的图片
  • 预测正确,同时具有较大的probability的图片
  • 预测错误,同时具有较大的probability的图片
  • 最不确定的图片,比如说预测概率接近0.5的图片

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-torHOkxI-1666446273449)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022171027.png)]

二、AI研习社“猫狗大战”比赛,上传结果在线评测

1.导出csv文件

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-CuZfJ8dT-1666446273450)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022173920.png)]

2.进入AI研习社上传结果

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-SSspxnLO-1666446273450)(https://1yly1.oss-cn-hangzhou.aliyuncs.com/images/QQ%E5%9B%BE%E7%89%8720221022173234.png)]

3.分析使用哪些技术可以进一步提高分类准确率

1)采集更多数据;2)添加更多层;3)更改图像大小;4)增加训练轮次;5)减少颜色通道;6)迁移学习。

预测正确,同时具有较大的probability的图片

  • 预测错误,同时具有较大的probability的图片
  • 最不确定的图片,比如说预测概率接近0.5的图片

[外链图片转存中…(img-torHOkxI-1666446273449)]

二、AI研习社“猫狗大战”比赛,上传结果在线评测

1.导出csv文件

[外链图片转存中…(img-CuZfJ8dT-1666446273450)]

2.进入AI研习社上传结果

[外链图片转存中…(img-SSspxnLO-1666446273450)]

3.分析使用哪些技术可以进一步提高分类准确率

1)采集更多数据;2)添加更多层;3)更改图像大小;4)增加训练轮次;5)减少颜色通道;6)迁移学习。

你可能感兴趣的:(软件工程)