TensorFlow实战（二）——MNIST手写数字识别最佳实践

前言：

针对MNIST手写数字识别问题，本文将介绍一个TensorFlow训练神经网络模型的最佳实践。将神经网络的训练、测试和使用拆分成了不同的程序，并且将神经网络的前向传播过程抽象成了一个独立的库函数。通过这种方式可以将训练过程和测试、使用过程解耦合， 从而使得整个流程更加灵活。本文的代码将会被拆成3个程序，第一个是mnist_inference.py，它定义了前向传播的过程以及神经网络中的参数。第二个是 mnist_train.py，它定义了神经网络的训练过程。第三个是mnist_eval.py，它定义了测试过程。

一、训练

       MNIST是一个非常有名的手写体数字识别数据集，在很多资料中，这个数据集都会被用作深度学习的入门样例。本文中将大致讲解这个数据集的基本情况，并介绍TensorFlow 对MNIST数据集做的封装。TensorFlow的封装让使用MNIST数据集变得更加方便。MNIST 数据集是NIST数据集的一个子集，它包含了 60000张图片作为训练数据，10000张图片作为测试数据。在MNIST数据集中的每一张图片都代表了0~9中的一个数字。图片的大小都为28*28，且数字都会出现在图片的正中间。

      将训练和测试分成两个独立的程序，这可以使得每一个组件更加灵活。比如训练神经网络的程序可以持续输出训练好的模型，而测试程序可以每隔一段时间检验最新模型的正确率，如果模型效果更好，则将这个模型提供给产品使用。除了将不同功能模块分开，还将前向传播的过程抽象成一个单独的库函数。因为神经网络的前向传播过程在训练和测试的过程中都会用到，所以通过库函数的方式使用起来既可以更加方便，又可以保证训练和测试过程中使用的前向传播方法一定是一致的。

      以下代码给出了 mnist_inference.py中的内容：

# -*- coding: utf-8 -*-

###################################
#########  作者：行歌   ############
#########  时间：2018.5.3  ########
######  email:[email protected]  ##
###################################

import tensorflow as tf

####定义神经网络结构相关的参数########
INPUT_NODE = 784         #输入层的节点数。对于MNIST数据集，这个就等于图片的像素
OUTPUT_NODE =10          #输出层的节点数。这个等于类别的数目。因为在MNIST数据集中
                         #需要区分的是0~9这10个数字，所以这里输出层的节点数为10
LAYER1_N0DE = 500         #隐藏层的节点数。这里使用只有一个隐藏层的网络结构，这个隐藏层包含500个节点



def get_weight_variable(shape, regularizer):
    """
    通过tf.get_variable函数来获取变量。在训练神经网络时会创建这些变量；在测试时会通过保存的模型加载这些变量的取值。
    而且更加方便的是，因为可以在变量加载时将滑动平均变量重命名，所以可以直接通过同样的名字在训练时使用变量自身，
    而在测试时使用变量的滑动平均值在这个函数中也会将变量的正则化损失加入损失集合。 
    """
    weights = tf.get_variable("weights", shape, initializer=tf.truncated_normal_initializer(stddev=0.1))

    # 当给出了正则化生成函数时，将当前变量的正则化损失加入名字为losses的集合。在这里
    # 使用了add_to_collection函数将一个张量加入一个集合，而这个集合的名称为losses。
    # 注意这是自定义的集合，不在TensorFlow自动管理的集合列表中。
    if regularizer != None:
        tf.add_to_collection('losses', regularizer(weights))
    return weights



def inference(input_tensor, regularizer):
    """
    定义神经网络的前向传播过程。先声明第一层神经网络的变量并完成前向传播过程，
    再声明第二层神经网络的变量并完成前向传播过程。
    """
    with tf.variable_scope('layer1'):
        # 这里通过tf .get_variable或tf .Variable没有本质区别，因为在训练或是测试中
        # 没有在同一个程序年多次调用这个函数。如果在同一个程序中多次调用，在第一次调用
        # 之后需要将reuse参数设置为True。
        weights = get_weight_variable([INPUT_NODE, LAYER1_N0DE], regularizer)
        biases = tf.get_variable('biases',[LAYER1_N0DE], initializer=tf.constant_initializer(0.0))
        layer1 = tf.nn.relu(tf.matmul(input_tensor, weights) + biases)

    with tf.variable_scope('layer2'):
        weights = get_weight_variable([LAYER1_N0DE,OUTPUT_NODE], regularizer)
        biases = tf.get_variable('biases',[OUTPUT_NODE],initializer=tf.constant_initializer(0.0))
        layer2 = tf.matmul(layer1, weights) + biases

    #返回最后前向传播的结果。
    return layer2

      在这段代码中定了神经网络的前向传播算法。无论是训练时还是测试时，都可以直接调用inference这个函数，而不用关心具体的神经网络结构。

    使用定义好的前向传播过程，以下代码给出了神经网络的训练程序 mnist_train.py：

# -*- coding: utf-8 -*-

###################################
#########  作者：行歌   ############
#########  时间：2018.5.3  ########
######  email:[email protected]  ##
###################################

import tensorflow as tf

from tensorflow.examples.tutorials.mnist import input_data

###加载mnist_inference.py中定义的常量和前向传播的函数########
import mnist_inference

####配置实现指数衰减学习率的相关参数######
BATCH_SIZE = 100              #一个训练batch中的训练数据个数。数字越小时，训练过程越接近随机梯度下降；
                              #数字越大时，训练越接近梯度下降
LEARNING_RATE_BASE = 0.8      #基础的学习率
LEARNING_RATE_DECAY =0.99     #学习率的衰减系数

####配置实现正则化的相关参数######
REGULARAZTION_RATE = 0.0001      #正则化项的权重

####配置实现滑动平均模型的相关参数######
MOVING_AVERAGE_DECAY = 0.99     #滑动平均模型的衰减率

####训练迭代轮数######
TRAINING_STEPS = 30000

def train( mnist ):
    """
    定义输入输出placeholder，其中mnist_inference.INPUT_NODE为784，mnist_inference.OUTPUT_NODE为10。
    TensorFlow提供了tf.contrib.layers.l2_regularizer函数，它可以返回一个函数，
    这个函数可以计算一个给定参数的l2正则化项的值。类似的，
    tf.contrib.layers.l1_regularizer可以计算L1正则化项的值
    """
    x = tf.placeholder(tf.float32, [None, mnist_inference.INPUT_NODE] , name='x-input')
    y_ = tf.placeholder(tf.float32, [None, mnist_inference.OUTPUT_NODE] , name='y-input')
    regularizer = tf.contrib.layers.l2_regularizer( REGULARAZTION_RATE )     #返回一个可以计算l2正则化项的函数

    y = mnist_inference.inference(x, regularizer)
    # 直接使用mnist_inference.py中定义的前向传播过程

    global_step = tf.Variable(0, trainable=False)
    # 定义存储训练轮数的变量，这个变量不需要计算滑动平均值，所以这里指定这个变量为不可训练的变量(trainable=False)。
    # 在使用tensorflow训练神经网络时，一般会将代表训练轮数的变量指定为不可训练的参数

    variable_averages = tf.train.ExponentialMovingAverage(MOVING_AVERAGE_DECAY, global_step)
    # 给定滑动平均衰减率和训练轮数的变量，初始化滑动平均类，ExponentialMovingAverage还提供了num_updates参数
    # 来动态设置decay的大小，因此，通过给定训练轮数的变量可以加快训练早期变量的更新速度

    variables_averages_op = variable_averages.apply( tf.trainable_variables())
    # 在所有代表神经网络参数的变量上使用滑动平均。其他辅助变量（比如global_step ）就不需要了。
    # tf.trainable_variables()返回的就是图上集合GraphKeys.TRAINABLE_VARIABLES中的元素。
    # 这个集合的元素就是所有没有指定trainable=False的参数

    cross_entropy = tf.nn.sparse_softmax_cross_entropy_with_logits(logits=y, labels=tf.argmax(y_,1))
    # 因为交叉熵一般会与softmax回归一起使用，所以TensorFlow对这两个功能进行了统一封装，
    # 并提供了tf.nn.softmax_cross_entropy_with_logits函数。比如：
    # cross_entropy = tf.nn.softmax_cross_entropy_with_logits（y,y_），其中y代表了原始神经网络的输出结果，而y_代表标准答案。
    # 这样通过一个命令就可以得到使用了softmax回归之后的交叉熵。在只有一个正确答案的分类问题中，TensorFlow还提供了
    # tf.nn.sparse_softmax_cross_entropy_with_logits函数来进一步加速计算过程。
    # 注意，tf.argmax(vector, axis=1)，其中axis：0表示按列，1表示按行。返回的是vector中的最大值的索引号，
    # 如果vector是一个向量，那就返回一个值，如果是一个矩阵，那就返回一个向量，
    # 这个向量的每一个元素都是相对应矩阵行的最大值元素的索引号。

    cross_entropy_mean = tf.reduce_mean(cross_entropy)
    loss = cross_entropy_mean + tf.add_n(tf.get_collection('losses'))
    # get_collection返回一个列表，这个列表包含所有这个losses集合中的元素，这些元素就是损失函数的不同部分，
    # 将它们加起来就可以得到最终的损失函数。
    # 其中tf.add_n([p1, p2, p3....])函数是实现一个列表的元素的相加。输入的对象是一个列表，列表里的元素可以是向量、矩阵等

    learning_rate = tf.train.exponential_decay(LEARNING_RATE_BASE,
                                               global_step,mnist.train.num_examples/BATCH_SIZE,LEARNING_RATE_DECAY)
    train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss, global_step=global_step)
    # 通过exponential_decay函数生成学习率，使用呈指数衰减的学习率，
    # 在minimize函数中传入global_step将自动更新global_step参数，从而使得学习率learning_rate也得到相应更新。

    with tf.control_dependencies([train_step, variables_averages_op]):
        train_op = tf.no_op(name='train')
    # 在训练神经网络模型时，每过一遍数据既需要通过反向传播来更新神经网络中的参数，
    # 又要更新每一个参数的滑动平均值。为了一次完成多个操作，TensorFlow提供了tf.control_dependencies机制

    saver = tf.train.Saver()
    # 初始化TensorFlow持久化类

    with tf.Session() as sess:
        # 初始化所有变量
        init_op = tf.global_variables_initializer()
        sess.run(init_op)

        #在训练过程中不再测试模型在验证数据上的表现，验证和测试的过程将会有一个独立的程序来完成。
        print("****************开始训练************************")
        for i in range(TRAINING_STEPS):
            xs, ys = mnist.train.next_batch( BATCH_SIZE )
            train_op_renew,loss_value, step = sess.run([train_op, loss, global_step],feed_dict={x: xs, y_: ys})

            if i % 1000 == 0:
                # 每1000轮保存一次模型。
                # 输出当前的训练情况。这里只输出了模型在当前训练batch上的损失函数大小。
                # 通过损失函数的大小可以大概了解训练的情况。
                # 在验证数据集上的正确率信息会有一个单独的程序来生成。
                print ( "After %d training step (s) , loss on training batch is %g." % (step, loss_value))

                saver.save(sess, r"C:\Users\Administrator\Desktop\code\tensorflow\model\model.ckpt",
                           global_step = global_step)
                # 持久化一个简单的tensorflow模型。注意这里给出了global_step参数，这样可以让每个被
                # 保存模型的文件名末尾加上训练的轮数，比如“model.ckpt-1000” 表示训练1000轮之后得到的模型。
                # 通过 saver.save函数将tensorflow模型保存到了C:\Users\Administrator\Desktop\code\tensorflow\model\
                # model.ckpt文件中。每次保存操作会生成三个文件，这是因为tensorflow会将计算图的结构和图上参数取值分开保存。
                # 第一个文件为model.ckpt.meta，它保存了tensorflow计算图的结构；第二个文件为model.ckpt，这个文件中保存了
                # tensorflow程序中每一个变量的取值；最后一个文件为checkpoint文件，这个文件中保存了一个目录下所有的模型文件列表。

        print("*******************训练结束****************************")

# 主程序入口
def main(argv=None):
    """
    主程序入口
    声明处理MNIST数据集的类，这个类在初始化时会自动下载数据
    """
    mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
    if mnist != None:
        print("*************数据加载完毕*****************")
    train(mnist)

# TensorFlow提供的一个主程序入口，tf.app.run会调用上面定义的main函数
if __name__	 == '__main__':
    tf.app.run ()




# *************************运行程序，输出：*************************
# D:\python\python.exe C:/Users/Administrator/Desktop/code/tensorflow/mnist_train.py
# Extracting MNIST_data/train-images-idx3-ubyte.gz
# Extracting MNIST_data/train-labels-idx1-ubyte.gz
# Extracting MNIST_data/t10k-images-idx3-ubyte.gz
# Extracting MNIST_data/t10k-labels-idx1-ubyte.gz
# *************数据加载完毕*****************
# 2018-05-07 19:01:52.830167: I D:\Build\tensorflow\tensorflow-r1.4\tensorflow\core\platform\cpu_feature_guard.cc:137] Your CPU supports instructions that this TensorFlow binary was not compiled to use: AVX AVX2
# ****************开始训练************************
# After 1 training step (s) , loss on training batch is 2.91214.
# After 1001 training step (s) , loss on training batch is 0.224322.
# After 2001 training step (s) , loss on training batch is 0.162462.
# After 3001 training step (s) , loss on training batch is 0.148402.
# After 4001 training step (s) , loss on training batch is 0.117902.
# After 5001 training step (s) , loss on training batch is 0.122401.
# After 6001 training step (s) , loss on training batch is 0.0983168.
# After 7001 training step (s) , loss on training batch is 0.105658.
# After 8001 training step (s) , loss on training batch is 0.0793465.
# After 9001 training step (s) , loss on training batch is 0.0739282.
# After 10001 training step (s) , loss on training batch is 0.0671822.
# After 11001 training step (s) , loss on training batch is 0.0633655.
# After 12001 training step (s) , loss on training batch is 0.0666232.
# After 13001 training step (s) , loss on training batch is 0.0601347.
# After 14001 training step (s) , loss on training batch is 0.0531344.
# After 15001 training step (s) , loss on training batch is 0.0501063.
# After 16001 training step (s) , loss on training batch is 0.0470108.
# After 17001 training step (s) , loss on training batch is 0.0471686.
# After 18001 training step (s) , loss on training batch is 0.0460151.
# After 19001 training step (s) , loss on training batch is 0.0424017.
# After 20001 training step (s) , loss on training batch is 0.0437952.
# After 21001 training step (s) , loss on training batch is 0.0434822.
# After 22001 training step (s) , loss on training batch is 0.038384.
# After 23001 training step (s) , loss on training batch is 0.0407217.
# After 24001 training step (s) , loss on training batch is 0.0348038.
# After 25001 training step (s) , loss on training batch is 0.0401091.
# After 26001 training step (s) , loss on training batch is 0.0370711.
# After 27001 training step (s) , loss on training batch is 0.0352939.
# After 28001 training step (s) , loss on training batch is 0.0430026.
# After 29001 training step (s) , loss on training batch is 0.0318957.
# *******************训练结束****************************
#
# 进程已结束,退出代码0

运行上面的程序，可以得到类似下面的结果：

二、测试

在上面的训练代码中，不再将训练和测试跑在一起。训练过程中，每1000轮输出一次在当前训练batch上损失函数的大小来大致估计训练的效果。在上面的程序中，每1000轮保 存一次训练好的模型，这样可以通过一个单独的测试程序，更加方便地在滑动平均模型上做测试。以下代码给出了测试程序mnist_eval.py：

# -*- coding: utf-8 -*-

###################################
#########  作者：行歌   ############
#########  时间：2018.5.3  ########
######  email:[email protected]  ##
###################################

import time
import tensorflow as tf
from tensorflow.examples.tutorials.mnist import input_data

###加载mnist_inference.py和mnist_train.py中定义的常量和前向传播的函数########
import mnist_inference
import mnist_train

#每10秒加载一次最新的模型，并在测试数据上测试最新模型的正确率
EVAL_INTERVAL_SECS = 10

def evaluate( mnist ):
    with tf.Graph().as_default() as g:   #将默认图设为g
        #定义输入输出的格式
        x = tf.placeholder(tf.float32, [None, mnist_inference.INPUT_NODE], name='x-input')
        y_ = tf.placeholder(tf.float32, [None, mnist_inference.OUTPUT_NODE], name='y-input')
        validate_feed = {x: mnist.validation.images, y_: mnist.validation.labels}

        #直接通过调用封装好的函数来计算前向传播的结果
        #测试时不关注过拟合问题，所以正则化输入为None
        y = mnist_inference.inference(x, None)

        #使用前向传播的结果计算正确率，如果需要对未知的样例进行分类
        #使用tf.argmax(y, 1)就可以得到输入样例的预测类别
        correct_prediction = tf.equal(tf.argmax(y, 1), tf.argmax(y_, 1))
        # 首先将一个布尔型的数组转换为实数，然后计算平均值
        # 平均值就是网络在这一组数据上的正确率
        #True为1，False为0
        accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

        #通过变量重命名的方式来加载模型
        variable_averages = tf.train.ExponentialMovingAverage(mnist_train.MOVING_AVERAGE_DECAY)
        variable_to_restore = variable_averages.variables_to_restore()
        # 所有滑动平均的值组成的字典，处在/ExponentialMovingAverage下的值
        # 为了方便加载时重命名滑动平均量，tf.train.ExponentialMovingAverage类
        # 提供了variables_to_store函数来生成tf.train.Saver类所需要的变量
        saver = tf.train.Saver(variable_to_restore) #这些值要从模型中提取

        #每隔EVAL_INTERVAL_SECS秒调用一次计算正确率的过程以检测训练过程中正确率的变化
        while True:
            with tf.Session() as sess:
                #tf.train.get_checkpoint_state函数
                # 会通过checkpoint文件自动找到目录中最新模型的文件名
                ckpt = tf.train.get_checkpoint_state( r"C:\Users\Administrator\Desktop\code\tensorflow\model")
                if ckpt and ckpt.model_checkpoint_path:
                    #加载模型
                    saver.restore(sess, ckpt.model_checkpoint_path)
                    #得到所有的滑动平均值
                    #通过文件名得到模型保存时迭代的轮数
                    global_step = ckpt.model_checkpoint_path.split('-')[-1]
                    accuracy_score = sess.run(accuracy, feed_dict = validate_feed)           #使用此模型检验
                    #没有初始化滑动平均值，只是调用模型的值，inference只是提供了一个变量的接口，完全没有赋值
                    print("After %s training steps, validation accuracy = %g" %(global_step, accuracy_score))
                else:
                    print("No checkpoint file found")
                    return
                time.sleep(EVAL_INTERVAL_SECS)
                # time sleep()函数推迟调用线程的运行，可通过参数secs指秒数，表示进程挂起的时间。

def main( argv=None ):
    mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
    evaluate(mnist)

if __name__=='__main__':
    tf.app.run()

运行程序，输出：

  

上面给出的mnist_eval.py程序会每隔10秒运行一次，每次运行都是读取最新保存的模型，并在MNIST验证数据集上计算模型的正确率。如果需要离线预测未知数据的类别（比如这个样例程序可以判断手写体数字图片中所包含的数字），只需要将计算正确率的部分改为答案输出即可。注意因为这个程序每10秒自动运行一次，而训练程序不一定每10秒输出一个新模型，所以在上面的结果中会发现有些模型被测试了多次。一般在解决真实问题时，不会这么频繁地运行评测程序。

     我们打开存储tensorflow模型的文件夹，如下所示：

打开checkpoint文件，如下：