卷积网络的结构

卷积神经网络是一个多层的神经网络，每层由多个二维平面组成，而每个平面由多个独立神经元组成。卷积神经网络中的每一个特征提取层（C-层）都紧跟着一个用来求局部平均与二次提取的下采样层（S-层），这种特有的两次特征提取结构使网络在识别时对输入样本有较高的畸变容忍能力。

                       图3  经典的卷积神经网络结构图

原始图像的大小决定了输入向量的尺寸，隐层由C-层（特征提取层）和S-层（下采样层）组成，每层均包含多个平面。C1层神经元提取图像的局部特征，因此每个神经元都与前一层的局部感受野（也就是局部输入窗口）相连。C1层中各平面（由神经元构成）提取图像中不同的局部特征，如边缘特征，上下左右方向特征等，C1层中的输入是有由上一层局部窗口的数值和连接的权值的加权和（也就是卷积，后面会具体解释为什么是卷积），然后通过一个激活函数（如sigmoid 函数，反正切函数）得到C1层的输出，接下来S2层是下采样层，简单来书，由4个点下采样为1个点，也就是4个数的加权平均。换句话说，就是我们把2*2的像素缩小成为一个像素，某种意义上来说可以认识是图像处理中的模糊。然后按照这个C—S的结构继续构成隐层，当然这些隐层的连接都是局部相连的。同时有人会问了，例如S2和C3层具体要怎么连接呢，为什么会从6张变成16张特征图呢。C3层的特征图是由S2层图像的感受野和对应权值的卷积后，通过随机的组合而形成的，也就意味着S2层和C3层并不像C1层和S2层那样是一一对应的。但当我们感受野的大小和图像一样时，我们经过特征提取后就变成一个像素了，这里我们开始使用全连接（这样才能完整的把特征保留）。