CIFAR-10模型训练与可视化

通过caffe深度学习框架在cifar10数据集训练得到模型,观察并分析模型的train loss 、test loss及accuracy曲线,并对得到的caffemodel进行测试。

数据集介绍:cifar-10是一个使用非常广泛的物体识别图像数据集,CIFAR-10数据中包含了60000张32×32的彩色图像,其中训练集50000张,测试集10000张。共有10类物体,分别是airplane,automobile,bird,cat,deer,dog,frog,horse,ship,truck。

CIFAR-10模型训练与可视化_第1张图片

图1 CIFAR-10数据部分示例图片
实验环境:Ubuntu14.04+caffe+gtx960+cuda7.5

网络模型
(1)下载数据集

首先需要从CIFAR-10网站上下载数据集并将图片转为lmdb格式以及计算二进制格式均值,caffe框架中的example中已包含相应的文件,依次执行即可。caffe对于训练数据格式,支持lmdb、h5py等等,其中lmdb数据格式常用于单标签数据,像分类等,经常使用lmdb的数据格式。对于回归等问题,或者多标签数据,一般使用h5py数据的格式。此外,将图片减去均值再进行训练和测试,可以提高速度和精度。

cd $CAFFE_ROOT
./data/cifar10/get_cifar10.sh
./examples/cifar10/create_cifar10.sh

(2)模型
CIFAR-10是典型的卷积神经网络结构,包含相应的卷积层,池化层,修正线性单元以及最顶层带有分类器的归一化采样层。在cifar10_quick_train_test.prototxt中可以看到相应的网络结构设置,下图是网络结构的可视化示意图。

CIFAR-10模型训练与可视化_第2张图片
图2 CIFAR-10 CNN Model网络结构可视化示意图


(3)训练模型
在.prototxt文件里面定义了网络的结构,输入cifar10的lmdb文件,通过softmax函数计算损失与准确率。在solver.prototxt文件里定义了训练的各种参数。最后运行train_quick.sh文件,即可获得训练结果。可以在terminal中看到训练过程中loss参数以及迭代次数等信息。最后训练的结果保存在cifar10_quick_iter_5000中。
CIFAR-10模型训练与可视化_第3张图片
图3 模型训练过程中显示信息
可以看到,在训练过程中,每次迭代里,lr表示的是learning rate,loss为training function。在测试部分,score 0表示accuracy,score 1便是testing loss function。
4.python接口模型训练及可视化显示
下面使用caffe的python接口进行分类并可视化显示,绘制loss以及accuracy曲线。这里采用的是jupyter notebook来进行曲线绘制。
在这里使用cifar10_full_train_test.prototxt中的网络结构模型
迭代次数niter = 40000

CIFAR-10模型训练与可视化_第4张图片
图4 训练过程有关数据显示
CIFAR-10模型训练与可视化_第5张图片
图5 loss与accuracy曲线
5.使用模型分类新数据
训练完成后我们得到模型:
cifar10_quick_iter_4000.caffemodel.h5
cifar10_quick_iter_4000.solverstate.h5



下面是测试使用的deploy模型结构图
CIFAR-10模型训练与可视化_第6张图片
图6 模型结构图



下面是测试使用的图片,为一张马的图片。

图7 测试图片


下面是分类结果以及对应标签的概率。
分类结果:

对应标签的概率:




你可能感兴趣的:(Deep,Learning)