《Python深度学习》第五章-1（CNN简介）读书笔记

第五章 深度学习用于计算机视觉

5.1　卷积神经网络简介

5.1.1 卷积神经网络对 MNIST 分类

使用卷积神经网络对 MNIST 数字进行分类，在第 2 章用密集连接网络做过（当时的测试精度为 97.8%）。它是 Conv2D 层和 MaxPooling2D 层的堆叠。

1. 实例化一个小型的卷积神经网络

   from keras import layers
   from keras import models
   
   model = models.Sequential()
   model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)))
   model.add(layers.MaxPooling2D((2, 2)))
   model.add(layers.Conv2D(64, (3, 3), activation='relu'))
   model.add(layers.MaxPooling2D((2, 2)))
   model.add(layers.Conv2D(64, (3, 3), activation='relu'))
   

   卷积神经网络接收形状为 (image_height, image_width, image_channels)的输入张量（不包括批量维度）。第一层传入参数 input_shape=(28, 28, 1) 来完成此设置。

   >>> model.summary()
   _________________________________________________________________
   Layer (type) Output Shape Param #
   =================================================================
   conv2d_1 (Conv2D) (None, 26, 26, 32)                  320
   _________________________________________________________________
   max_pooling2d_1 (MaxPooling2D) (None, 13, 13, 32)     0
   _________________________________________________________________
   conv2d_2 (Conv2D) (None, 11, 11, 64)                  18496
   _________________________________________________________________
   max_pooling2d_2 (MaxPooling2D) (None, 5, 5, 64)       0
   _________________________________________________________________
   conv2d_3 (Conv2D) (None, 3, 3, 64)                    36928
   =================================================================
   Total params: 55,744
   Trainable params: 55,744
   Non-trainable params: 0
   

   每个 Conv2D 层和 MaxPooling2D 层的输出都是一个形状为 (height, width,channels) 的 3D 张量。通道数量由传入 Conv2D 层的第一个参数所控制（32 或 64）。

2. 在卷积神经网络上添加分类器

   model.add(layers.Flatten())
   model.add(layers.Dense(64, activation='relu'))
   model.add(layers.Dense(10, activation='softmax'))
   

   在进入两个 Dense 层之前，形状 (3, 3, 64) 的输出被展平为形状 (576,) 的向量。

   >>> model.summary()
   _________________________________________________________________
   Layer (type) Output Shape Param #
   =================================================================
   conv2d_1 (Conv2D) (None, 26, 26, 32)                    320
   _________________________________________________________________
   max_pooling2d_1 (MaxPooling2D) (None, 13, 13, 32)       0
   _________________________________________________________________
   conv2d_2 (Conv2D) (None, 11, 11, 64)                    18496
   _________________________________________________________________
   max_pooling2d_2 (MaxPooling2D) (None, 5, 5, 64)         0
   _________________________________________________________________
   conv2d_3 (Conv2D) (None, 3, 3, 64)                      36928
   _________________________________________________________________
   flatten_1 (Flatten) (None, 576)                         0
   _________________________________________________________________
   dense_1 (Dense) (None, 64)                              36928
   _________________________________________________________________
   dense_2 (Dense) (None, 10)                              650
   =================================================================
   Total params: 93,322
   Trainable params: 93,322
   Non-trainable params: 0
   

3. 在 MNIST 图像上训练卷积神经网络

   from keras.datasets import mnist
   from keras.utils import to_categorical
   (train_images, train_labels), (test_images, test_labels) = mnist.load_data()
   
   train_images = train_images.reshape((60000, 28, 28, 1))
   train_images = train_images.astype('float32') / 255
   
   test_images = test_images.reshape((10000, 28, 28, 1))
   test_images = test_images.astype('float32') / 255
   
   train_labels = to_categorical(train_labels)
   test_labels = to_categorical(test_labels)
   
   model.compile(optimizer='rmsprop',
   			  loss='categorical_crossentropy',
   			  metrics=['accuracy'])
   model.fit(train_images, train_labels, epochs=5, batch_size=64)
   

   在测试数据上对模型进行评估。

   >>> test_loss, test_acc = model.evaluate(test_images, test_labels)
   >>> test_acc
   0.9912999868392944
   

4. 整体代码

   from tensorflow.keras.datasets import mnist
   from tensorflow.keras.utils import to_categorical
   from tensorflow.keras import layers
   from tensorflow.keras import models
   (train_images, train_labels), (test_images, test_labels) = mnist.load_data()
   
   train_images = train_images.reshape((60000, 28, 28, 1))
   train_images = train_images.astype('float32') / 255
   
   test_images = test_images.reshape((10000, 28, 28, 1))
   test_images = test_images.astype('float32') / 255
   
   train_labels = to_categorical(train_labels)
   test_labels = to_categorical(test_labels)
   
   model = models.Sequential()
   model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)))
   model.add(layers.MaxPooling2D((2, 2)))
   model.add(layers.Conv2D(64, (3, 3), activation='relu'))
   model.add(layers.MaxPooling2D((2, 2)))
   model.add(layers.Conv2D(64, (3, 3), activation='relu'))
   model.add(layers.Flatten())
   model.add(layers.Dense(64, activation='relu'))
   model.add(layers.Dense(10, activation='softmax'))
   
   model.compile(optimizer='rmsprop',
   			  loss='categorical_crossentropy',
   			  metrics=['accuracy'])
   model.fit(train_images, train_labels, epochs=5, batch_size=64)
   test_loss, test_acc = model.evaluate(test_images, test_labels)
   

   结果是：

   >>> test_acc
   0.99080000000000001
   

5.1.2 卷积运算

1. $Dense层$从输入特征空间中学到的是$全局模式$，而$卷积层$学到的是$局部模式$。

2. 卷积神经网络具有以下两个性质：

   • 卷积神经网络学到的模式具有$平移不变性(translationinvariant)$。这使得卷积神经网
     络在处理图像时可以高效利用数据（因为$视觉世界从根本上具有平移不变性$），它只需要更少的训练样本就可以学到具有泛化能力的数据表示。
   • 卷积神经网络可以学到$模式的空间层次结构(spatialhierarchiesofpatterns)$。卷积神经网络可以有效地学习越来越复杂、越来越抽象的视觉概念（因为$视觉世界从根本上具有空间层次结构$）。
     

3. $特征图(featuremap)$

   • 定义： 深度轴的每个维度都是一个$特征$(或$过滤器$)，而 2D 张量 output[:, :, n] 是这个过滤器在输入上的响应的二维空间$图(map)$。
   • 应用：
     • 输入卷积中的： 包含两个空间轴（高度和宽度）和一个深度轴（也叫通道轴）的 3D 张量，其卷积也叫$特征图(featuremap)$。
     • 从卷积中输出的： 卷积运算从输入特征图中提取图块，并对所有这些图块应用相同的变换，生成$输出特征图(outputfeaturemap)$。该输出特征图仍是一个 3D 张量，具有宽度和高度，其深度是输出深度是层的参数，每层代表代表$过滤器(filter)$。

4. 卷积关键参数：

   • $从输入中提取的图块尺寸$：这些图块的大小通常是$3\times 3$ 或$5\times 5$。本例中为$3\times 3$。
   • $输出特征图的深度$：卷积所计算的过滤器的数量。本例第一层的深度为$32$，最后一层的深度是 $64$。

5. 卷积的工作原理

   • 开始：在 3D 输入特征图上$滑动(slide)$这些$3\times 3$或$5\times 5$的窗口，在每个可能的位置停止并提取周围特征的 3D 图块［形状为 (window_height, window_width, input_depth) ］。
   • 然后，每个 3D 图块与学到的同一个权重矩阵［叫作$卷积核(convolutionkernel)$］做$张量积$，转换成形状为 (output_depth,) 的 1D 向量。
   • 最后，对所有这些向量进行空间重组，使其转换为形状为 (height, width, output_depth) 的 3D 输出特征图。输出特征图中的每个空间位置都对应于输入特征图中的相同位置。

   如图所示：
   

   $输出的宽度和高度可能与输入的宽度和高度不同$。不同的原因可能有两点:

   • $边界效应$，可以通过对输入特征图进行填充来抵消。
   • $使用了步幅(stride)$，稍后会给出其定义。

5.1.3 边界效应与填充

1. 边界效应定义：
   假设用$3\times 3$的特征图 进行卷积Con2，开始的输入尺寸为$28\times 28$，经过第一个卷积层之后尺寸变为$26\times 26$。
2. 填充的定义：
   填充是在输入特征图的每一边$添加适当数目的行和列$，使得每个输入方块都能作为$卷积窗口的中心$。
3. 对于 Conv2D 层，可以通过 padding 参数来设置填充，这个参数有两个取值：
   • “valid” 表示$不使用填充$（只使用有效的窗口位置）；
   • “same” 表示“$填充后输出的宽度和高度与输入相同$”。
   • padding 参数的默认值为 “valid” 。

5.1.4 卷积步幅

1. 卷积步幅定义：
   两个连续窗口的距离是卷积的一个参数，叫作$步幅$，默认值为 $1$。
2. 步幅为n的意义：
   • 步幅为$n$意味着特征图的宽度和高度都被做了$n$倍$下采样$(除了边界效应引起的变化)。
   • 为了$对特征图进行下采样$，$我们不用步幅$，而是通常使用$最大池化(max-pooling)运算$。

5.1.5 最大池化运算

1. 最大池化的定义：

   • 最大池化是$从输入特征图中提取窗口，并输出每个通道的最大值$。
   • $使用硬编码的max张量运算对局部图块进行变换，而不是使用学到的线性变换(卷积核)$。

2. 最大池化的作用：

   • $减少需要处理的特征图的元素个数$.
   • 通过让连续卷积层的观察窗口越来越大，$从而引入空间过滤器的层级结构$。

   因为如果只使用卷积核会造成：

   1. $不利于学习特征的空间层级结构。$
   2. $最后一层的特征图对每个样本所有的元素太多，造成难以计算。$

3. 实现下采样可以用：

   • 步幅padding；
   • 平均池。

   但最大池化的效果往往比这些替代方法更好。观察不同特征的最大值(而不是平均值)能够给出更多的信息，类似SIFT算法的下采样步骤。

---