使用MindSpore训练手写数字识别模型

MindSpore的“学习”过程

MindSpore当前已经部署在ModelArts的开发环境和训练环境中，同时提供了阈值算法供开发者直接使用，它的学习过程如下图所示，简单总结一下：

1. 使用MindSpore提供的基本模块进行前线网络开发
2. 对数据进行处理和增强以便得到更好的数据输入
3. 利用前线网络构建训练模型，并进行模型保存和推理

深度学习工作原理

与传统的机器学习使用简单模型执行分类等任务不同，此次训练我们使用深度神经网络作为训练模型，即深度学习。深度学习通过人工神经网络来提取特征，不同层的输出常被视为神经网络提取出的不同尺度的特征，上一层的输出作为下一层的输入，层层连接构成深度神经网络。

1994年，Yann LeCun发布了结合反向传播的卷积神经网络 LeNet， 其在手写数字识别领域效果远超其他模型。1998年，Yann LeCun等人构建的卷积神经网络LeNet-5在手写数字识别问题中取得成功 ，被誉为卷积神经网络的“Hello Word”。LeNet-5以及在此之后产生的变体定义了现代卷积神经网络的基本结构，可谓入门级神经网络模型。本次实践使用的模型正是LeNet-5。
LeNet-5由输入层、卷积层、池化层和全连接层组成。输入层用于输入数据；卷积层通过卷积运算对输入进行局部特征提取；池化层通过下采样的方式降低特征图的分辨率，从而降低输出对位置和形变的敏感度，同时还可降低网络中的参数和计算量；全连接层将局部特征通过权值矩阵组装成完整的图像，完成特征空间到真实类别空间的映射，最终的图像分类便是由全连接层完成的。有了这样一个神经网络后，我们还需要用大量数据集对它进行不断地训练，才能对输入数据有较为准确的预测结果，这一过程便依赖于华为自研的深度学习框架MindSpore。

数据集可视化：

MNIST数据集是目前手写数字识别领域使用最为广泛的公开数据集，大部分识别算法都会基于它进行训练和验证。MNIST数据集包含0~9这10种数字，每一种数字都包含大量不同形态的手写数字图片训练集，分为训练集和测试集。训练集涵盖6万张手写数字图片，测试级涵盖1万张手写数字图片。每一张图片皆为经过尺寸标准化的黑白图像，是28*28像素，像素值为0或者1的二值化图像。MNIST数据集的原始图像是黑白的，但在实际训练中使用数据增强后的图片能够获得更好的训练效果。本次训练所使用的经过数据增强的图片

Notes

手写数字识别，成为计算机视觉领域用于衡量算法表现的基准任务

MNIST数据集

1. 包含0-9这十种数字，每一类包含大量不同形态的手写图片
2. 训练集：60000 张手写数字图片
3. 测试集：10000 张手写数字图片
4. 每一张图片均为经过尺寸标准化的黑白图像：28 * 28像素，每一个像素值为 0或1

基于传统机器学习的识别方法：SIFT，SVM

基于深度学习的识别方法：LeNet-5

一个典型的卷积神经网络，由输入层、卷积层、池化层和全连接层组成。

1. 输入层：数据输入层
2. 卷积层：通过卷积进行局部特征提取
3. 池化层：通过下采样降低特征图的分辨率，降低输出对位置和形变的敏感度，保留关键特性，减少参数和计算
4. 全连接层：将局部特征通过权值矩阵组装成完整图像，完成特征空间到真实类别空间的映射，类似分类器

前向神经网络，损失函数

华为AI解决方案

1. 应用使能
2. 框架
3. 芯片使能
4. IP和芯片

Ascend、CANN、MindSpore、ModelArts

自动微分

1. TensorFlow：图方法
2. PyTorch：运算符重载
3. MindSpore：源码转换

神经网络执行模式

1. on-device模式
2. 主从控制模式

数据增强算子，神经网络算子，神经网络计算图，算子间内存零拷贝，图循环控制

动态图与静态图

1. 动态图执行模式：单算子/子图执行，灵活的开发调试
2. 静态图执行模式：整图编译执行，高效的图编译优化，性能高

MindSpore的“学习”过程-(mindspore基本组件)

1. 网络开发-(Tensor，Initializer，Cell，Operation)
2. 数据处理-(Dataset)
3. 构建模型-(Model，Cell，Operation)
4. 模型训练-(Model，Dataset)
5. 模型保存-(Callback)

mindspore基本组件

1. Tensor - 基础的数据结构
2. Initializer - 权重初始化模块
3. Operation - mindspore基础计算单元
4. Cell - 可复用的基础网络单元
5. Model - 用于模型训练与推理的高阶API

数据处理Pipeline

1. 加载
2. shuffle
3. map
4. batch
5. repeat

执行步骤

1. 克隆github代码

git clone https://github.com/mindspore-ai/docs.git

2. 进入到tutorials_code,可以看到lenet.py

cd docs/tutorials/tutorials_code

3. 运行代码

python lenet.py

4. 输出训练与测试结果：
5. 最后输出结果可视化：