Python深度学习：第2部分

原作者: Jon C-137
原文链接: https://medium.com/@jon.froiland/convolutional-neural-networks-for-sequence-processing-part-2-bdd3fc88cb10

进一步了解MNIST数据集

MNIST数据集以一组4个Numpy数组的形式预装在Keras中。如果按照前一部分的步骤设置了一个virtualenv，激活它，然后启动一个python shell。

$ python
>>> from keras.datasets import mnist
>>> (train_images, train_labels), (test_images, test_labels) = mnist.load_data()

train_图像和train_标签构成训练集，模型将从中学习数据。然后将在测试集、测试图像和测试标签上测试该模型。图像被编码为Numpy数组，标签是一个数字数组，范围从0到9。图像和标签是一一对应的。
接下来让我们看看训练数据：

>>> train_images.shape
(60000, 28, 28)
>>> len(train_labels)
60000
>>> train_labels
array([5, 0, 4, ..., 5, 6, 8], dtype=uint8)

工作流程如下：

1. 向神经网络提供训练数据、训练图像和训练标签。然后，网络将学习关联图像和标签。
2. 要求网络为test_images生成预测，我们将验证这些预测是否与test_labels中的标签匹配。
   构建网络架构：

   >>> from keras import models
   >>> from keras import layers
   >>> network = models.Sequential()
   >>> network.add(layers.Dense(512, activation='relu', input_shape=(28 * 28,)))
   >>> network.add(layers.Dense(10, activation='softmax'))

   神经网络的核心组成部分是层，一个数据处理模块，你可以将其看作数据过滤器。一些数据进入，它以一种更有用的形式出现。具体地说，层从输入到它们的数据中提取表示-希望，表示对于手头的问题更有意义。大多数深度学习包括将简单的层链接在一起，这些层将实现一种渐进式的数据蒸馏。一个深度学习模型就像一个数据处理的筛子，由一系列越来越精细的数据过滤器组成——层。
   这里，我们的网络由两个密集层组成，这两个密集层是密集连接（也称为完全连接）的神经层。第二层（也是最后一层）是10路softmax层，这意味着它将返回一个由10个概率分数组成的数组（总和为1）。每个分数将是当前数字图像属于我们的10位数类之一的概率。
   为了使网络做好培训准备，我们还需要选择三件事，作为编译步骤的一部分：

3. 损失函数 — 网络将如何能够根据训练数据来衡量其性能，从而如何能够将自己引导到正确的方向。
4. 优化器 — 网络根据所看到的数据及其丢失功能进行自我更新的机制。
5. 培训和测试期间监控的指标 — 在这里，我们只关心准确性（正确分类的图像的分数）。
   损失函数和优化器的确切用途将在整个系列的帖子中明确说明

   >>> network.compile(optimizer='rmsprop', loss='categorical_crossentropy', metrics=['accuracy'])

   在训练之前，我们将对数据进行预处理，将其重塑为网络所期望的形状，并对其进行缩放，使所有值都在[0，1]区间内。例如，以前，我们的训练图像存储在uint8类型的形状数组（60000，28，28）中，值在[0，255]区间内。我们将其转换为值介于0和1之间的float32形状数组（60000，28*28）。

准备图像数据

>>> train_images = train_images.reshape((60000, 28 * 28))
>>> train_images = train_images.astype('float32') / 255
>>> test_images = test_images.reshape((10000, 28 * 28))
>>> test_images = test_images.astype('float32') / 255

我们还需要对标签进行分类编码。

>>> from keras.utils import to_categorical
>>> train_labels = to_categorical(train_labels)
>>> test_labels = to_categorical(test_labels)

我们现在已经准备好对网络进行培训，在Keras，这是通过调用网络的fitmethod来完成的—我们将模型与其培训数据相匹配：

>>> network.fit(train_images, train_labels, epochs=5, batch_size=128)
Epoch 1/5
2018-08-31 10:06:23.500151: I tensorflow/core/platform/cpu_feature_guard.cc:141] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX2 FMA
60000/60000 [==============================] - 4s 67us/step - loss: 0.2561 - acc: 0.9247
Epoch 2/5
60000/60000 [==============================] - 3s 56us/step - loss: 0.1044 - acc: 0.9692
Epoch 3/5
60000/60000 [==============================] - 3s 56us/step - loss: 0.0696 - acc: 0.9790
Epoch 4/5
60000/60000 [==============================] - 3s 56us/step - loss: 0.0501 - acc: 0.9854
Epoch 5/5
60000/60000 [==============================] - 3s 56us/step - loss: 0.0376 - acc: 0.9884

注意：我用的是AMD Ryzen™ 5 2500U Quad-Core 和 AMD Radeon™ Vega M Graphics-你的结果可能会有所不同。
训练过程中会显示两个数量：网络在训练数据上的丢失和网络在训练数据上的准确性。
在训练数据上，我们很快达到了0.9884（98.84%）的准确率。现在让我们检查一下模型在测试集上是否也表现良好：

>>> test_loss, test_acc = network.evaluate(test_images, test_labels)
10000/10000 [==============================] - 0s 42us/step
>>> print('test_acc:', test_acc)
test_acc: 0.9792

测试集的准确度是97.92%，比训练集的准确度要低一点。训练精度和测试精度之间的差距就是一个过度拟合的例子：机器学习模型在新数据上的表现往往比在训练数据上的表现差。
MNIST的例子到此结束——您刚刚看到了如何构建和训练一个神经网络，用不到20行的Python代码对手写数字进行分类。

Chollet, François. Deep learning with Python. Shelter Island, NY: Manning Publications Co, 2018. Print.