基于深度学习的手写数字识别、python实现

一、what is 深度学习

深度学习是加深了层的深度神经网络。

二、加深层可以减少网络的参数数量

加深层的网络可以用更少参数获得与没有加深层同等水平的表现力。

一次5 * 5卷积运算，可以由两次3 * 3卷积运算抵充。

前者参数数量25，后者18 。

而且，参数数量差随着层加深，变大。

叠加小型滤波器来加深网络好处是减少参数的数量，扩大receptive filed(感受野)，什么是感受野，就是让神经元变化的一个局部区域。

通过叠加层，将ReLU等激活函数夹在卷积层中间，有助于提高网络表现力，因为非线性函数的叠加，可以表达更复杂的东西。

加深层，可以分层次的分解需要学习的问题，也就是说，可以将各层要学习的问题分解成简单问题。

三、深度学习的手写数字识别

网络结构：