tensorflow实战（一）——mnist识别
目录
1. MNIST数据集
2. Softmax回归介绍
3. 实现回归模型（每一行代码复制即可，文末有完整代码）
4. 训练模型
5. 评估模型
6. 完整代码
1. MNIST数据集
MNIST数据集的官网是Yann LeCun's website。在这里，我们利用tensorflow自带的mnist下载器来下载数据
from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets
mnist = read_data_sets("data/",one_hot=True)下载下来的数据集被分成两部分：60000行的训练数据集（55000行的mnist.train，5000行的validation）和10000行的测试数据集（mnist.test）。这样的切分很重要，在机器学习模型设计时必须有一个单独的测试数据集不用于训练而是用来评估这个模型的性能，从而更加容易把设计的模型推广到其他数据集上（泛化）。
正如前面提到的一样，每一个MNIST数据单元有两部分组成：一张包含手写数字的图片和一个对应的标签。我们把这些图片设为“xs”，把这些标签设为“ys”。训练数据集和测试数据集都包含xs和ys，比如训练数据集的图片是 mnist.train.images ，训练数据集的标签是 mnist.train.labels。
每一张图片包含28像素X28像素。我们可以用一个数字数组来表示这张图片：
我们把这个数组展开成一个向量，长度是 28x28 = 784。如何展开这个数组（数字间的顺序）不重要，只要保持各个图片采用相同的方式展开。从这个角度来看，MNIST数据集的图片就是在784维向量空间里面的点, 并且拥有比较复杂的结构 (提醒: 此类数据的可视化是计算密集型的)。
展平图片的数字数组会丢失图片的二维结构信息。这显然是不理想的，最优秀的计算机视觉方法会挖掘并利用这些结构信息，我们会在后续教程中介绍。但是在这个教程中我们忽略这些结构，所介绍的简单数学模型，softmax回归(softmax regression)，不会利用这些结构信息。
因此，在MNIST训练数据集中，mnist.train.images 是一个形状为 [60000, 784] 的张量，第一个维度数字用来索引图片，第二个维度数字用来索引每张图片中的像素点。在此张量里的每一个元素，都表示某张图片里的某个像素的强度值，值介于0和1之间。
相对应的MNIST数据集的标签是介于0到9的数字，用来描述给定图片里表示的数字。为了用于这个教程，我们使标签数据是"one-hot vectors"。 一个one-hot向量除了某一位的数字是1以外其余各维度数字都是0。所以在此教程中，数字n将表示成一个只有在第n维度（从0开始）数字为1的10维向量。比如，标签0将表示成([1,0,0,0,0,0,0,0,0,0,0])。因此， mnist.train.labels 是一个 [60000, 10] 的数字矩阵。
现在，我们准备好可以开始构建我们的模型啦！
2. Softmax回归介绍
我们知道MNIST的每一张图片都表示一个数字，从0到9。我们希望得到给定图片代表每个数字的概率。比如说，我们的模型可能推测一张包含9的图片代表数字9的概率是80%但是判断它是8的概率是5%（因为8和9都有上半部分的小圆），然后给予它代表其他数字的概率更小的值。
这是一个使用softmax回归（softmax regression）模型的经典案例。softmax模型可以用来给不同的对象分配概率。即使在之后，我们训练更加精细的模型时，最后一步也需要用softmax来分配概率。
softmax回归（softmax regression）分两步：第一步
为了得到一张给定图片属于某个特定数字类的证据（evidence），我们对图片像素值进行加权求和。如果这个像素具有很强的证据说明这张图片不属于该类，那么相应的权值为负数，相反如果这个像素拥有有利的证据支持这张图片属于这个类，那么权值是正数。
下面的图片显示了一个模型学习到的图片上每个像素对于特定数字类的权值。红色代表负数权值，蓝色代表正数权值。
图像 小部件
我们也需要加入一个额外的偏置量（bias），因为输入往往会带有一些无关的干扰量。因此对于给定的输入图片 x 它代表的是数字 i 的证据可以表示为
其中 
代表权重，
代表数字 i 类的偏置量，j 代表给定图片 x 的像素索引用于像素求和。然后用softmax函数可以把这些证据转换成概率 y：
这里的softmax可以看成是一个激励（activation）函数或者链接（link）函数，把我们定义的线性函数的输出转换成我们想要的格式，也就是关于10个数字类的概率分布。因此，给定一张图片，它对于每一个数字的吻合度可以被softmax函数转换成为一个概率值。softmax函数可以定义为：
展开等式右边的子式，可以得到：
但是更多的时候把softmax模型函数定义为前一种形式：把输入值当成幂指数求值，再正则化这些结果值。这个幂运算表示，更大的证据对应更大的假设模型（hypothesis）里面的乘数权重值。反之，拥有更少的证据意味着在假设模型里面拥有更小的乘数系数。假设模型里的权值不可以是0值或者负值。Softmax然后会正则化这些权重值，使它们的总和等于1，以此构造一个有效的概率分布。（更多的关于Softmax函数的信息，可以参考Michael Nieslen的书里面的这个部分，其中有关于softmax的可交互式的可视化解释。）
对于softmax回归模型可以用下面的图解释，对于输入的xs加权求和，再分别加上一个偏置量，最后再输入到softmax函数中：
如果把它写成一个等式，我们可以得到：
我们也可以用向量表示这个计算过程：用矩阵乘法和向量相加。这有助于提高计算效率。（也是一种更有效的思考方式）
更进一步，可以写成更加紧凑的方式：
3. 实现回归模型（每一行代码复制即可，文末有完整代码）
为了用python实现高效的数值计算，我们通常会使用函数库，比如NumPy，会把类似矩阵乘法这样的复杂运算使用其他外部语言实现。不幸的是，从外部计算切换回Python的每一个操作，仍然是一个很大的开销。如果你用GPU来进行外部计算，这样的开销会更大。用分布式的计算方式，也会花费更多的资源用来传输数据。
1）导入库
import tensorflow as tf import matplotlib.pyplot as plt import PIL.Image as Image import numpy as np from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets mnist = read_data_sets("data/",one_hot=True) print(mnist) print(mnist.train.images.shape,mnist.train.labels.shape) #(55000, 784),(55000, 10) print(mnist.validation.images.shape,mnist.validation.labels.shape) #(5000,784),(5000,10) print(mnist.test.images.shape,mnist.test.labels.shape) #(10000, 784),(10000, 10)2）变量声明
我们通过操作符号变量来描述这些可交互的操作单元，可以用下面的方式创建一个：
x = tf.placeholder(dtype='float',shape=[None,784])
x不是一个特定的值，而是一个占位符placeholder，我们在TensorFlow运行计算时输入这个值。我们希望能够输入任意数量的MNIST图像，每一张图展平成784维的向量。我们用2维的浮点数张量来表示这些图，这个张量的形状是[None，784 ]。（这里的None表示此张量的第一个维度可以是任何长度的。）我们的模型也需要权重值和偏置量，当然我们可以把它们当做是另外的输入（使用占位符），但TensorFlow有一个更好的方法来表示它们：
Variable。 一个Variable代表一个可修改的张量，存在在TensorFlow的用于描述交互性操作的图中。它们可以用于计算输入值，也可以在计算中被修改。对于各种机器学习应用，一般都会有模型参数，可以用Variable表示。w = tf.Variable(tf.zeros([784,10])) b = tf.Variable(tf.zeros([10]))我们赋予
tf.Variable不同的初值来创建不同的Variable：在这里，我们都用全为零的张量来初始化W和b。因为我们要学习W和b的值，它们的初值可以随意设置。注意，
W的维度是[784，10]，因为我们想要用784维的图片向量乘以它以得到一个10维的证据值向量，每一位对应不同数字类。b的形状是[10]，所以我们可以直接把它加到输出上面。现在，我们可以实现我们的模型啦。只需要一行代码！
y = tf.nn.softmax(tf.matmul(x,w) + b)首先，我们用
tf.matmul(X，W)表示x乘以W，对应之前等式里面的，这里
x是一个2维张量拥有多个输入。然后再加上b，把和输入到tf.nn.softmax函数里面。至此，我们先用了几行简短的代码来设置变量，然后只用了一行代码来定义我们的模型。TensorFlow不仅仅可以使softmax回归模型计算变得特别简单，它也用这种非常灵活的方式来描述其他各种数值计算，从机器学习模型对物理学模拟仿真模型。一旦被定义好之后，我们的模型就可以在不同的设备上运行：计算机的CPU，GPU，甚至是手机！
4. 训练模型
为了训练我们的模型，我们首先需要定义一个指标来评估这个模型是好的。其实，在机器学习，我们通常定义指标来表示一个模型是坏的，这个指标称为成本（cost）或损失（loss），然后尽量最小化这个指标。但是，这两种方式是相同的。
一个非常常见的，非常漂亮的成本函数是“交叉熵”（cross-entropy）。交叉熵产生于信息论里面的信息压缩编码技术，但是它后来演变成为从博弈论到机器学习等其他领域里的重要技术手段。它的定义如下：
y 是我们预测的概率分布, y' 是实际的分布（我们输入的one-hot vector)。比较粗糙的理解是，交叉熵是用来衡量我们的预测用于描述真相的低效性。更详细的关于交叉熵的解释超出本教程的范畴，但是你很有必要好好理解它。
为了计算交叉熵，我们首先需要添加一个新的占位符用于输入正确值：
#定义实际label占位符
y_ = tf.placeholder(dtype='float',shape=[None,10])然后我们可以用 
计算交叉熵:
cross_entropy = -tf.reduce_sum(y_*tf.log(y))
首先，用 tf.log 计算 y 的每个元素的对数。接下来，我们把 y_ 的每一个元素和 tf.log(y_) 的对应元素相乘。最后，用 tf.reduce_sum 计算张量的所有元素的总和。（注意，这里的交叉熵不仅仅用来衡量单一的一对预测和真实值，而是所有100幅图片的交叉熵的总和。对于100个数据点的预测表现比单一数据点的表现能更好地描述我们的模型的性能。
现在我们知道我们需要我们的模型做什么啦，用TensorFlow来训练它是非常容易的。因为TensorFlow拥有一张描述你各个计算单元的图，它可以自动地使用反向传播算法(backpropagation algorithm)来有效地确定你的变量是如何影响你想要最小化的那个成本值的。然后，TensorFlow会用你选择的优化算法来不断地修改变量以降低成本。
train_step = tf.train.GradientDescentOptimizer(learning_rate=0.01).minimize(cross_entropy)
在这里，我们要求TensorFlow用梯度下降算法（gradient descent algorithm）以0.01的学习速率最小化交叉熵。梯度下降算法（gradient descent algorithm）是一个简单的学习过程，TensorFlow只需将每个变量一点点地往使成本不断降低的方向移动。当然TensorFlow也提供了其他许多优化算法Adam等：只要简单地调整一行代码就可以使用其他的算法。
TensorFlow在这里实际上所做的是，它会在后台给描述你的计算的那张图里面增加一系列新的计算操作单元用于实现反向传播算法和梯度下降算法。然后，它返回给你的只是一个单一的操作，当运行这个操作时，它用梯度下降算法训练你的模型，微调你的变量，不断减少成本。
现在，我们已经设置好了我们的模型。在运行计算之前，我们需要添加一个操作来初始化我们创建的变量：
init = tf.initialize_all_variables()
现在我们可以在一个Session里面启动我们的模型，并且初始化变量：
sess = tf.Session()
sess.run(init)
然后开始训练模型，这里我们让模型循环训练1000次！
step = 500 #迭代次数
loss_list = [] #保存loss，便于画图
for i in range(step):
batch_xs, batch_ys = mnist.train.next_batch(100) #shape: (100, 784) (100, 10)
_,loss,weight= sess.run([train_step,cross_entropy,w],feed_dict={x:batch_xs,y_:batch_ys})
loss_list.append(loss)
print('weight\'s shape',weight.shape) #最终的训练好的权重（784,10)
题外话：
这里我们已经得到最终训练好的权重，这些weight有正有负，代表着某种特征。这里我们做个简单的转换，为了可视化出来：将负的用0（黑）表示，正的用255（白）表示，我们来看看它到底学了些什么东西。
img_size = 28 for col in range(10): singel_img = weight[:,col].reshape(img_size,img_size) #取出每列，即数字0~9代表的数 singel_img = [255 if singel_img[i,j]>0 else 0 for i in range(img_size) for j in range(img_size)] #作转换，正的为255，负的为0，类型为list singel_img = np.array(singel_img).reshape(img_size,img_size) #将list reshape成原图大小（28,28） img = Image.fromarray(np.uint8(singel_img)).convert('RGB') #数据类型转成uint8，并转成RGB模式 img.save('img/'+'digit_%d.jpg'%col) #保存图片 #plt.imshow(img) #显示图片 #plt.show()那么在img目录，你就可以看到10张图片了。
个人认为，这个0和3还是非常像的，总之它是学习到东西的。当然，我们这里是为了显示图片而已，将大于0的显示白色，事实上，最佳显示的分界不一定是0，这个讨论没啥意义。但是这里我还是显示下，比如设定分界：0.05，可以看到如下图，噪声点明显减小了
总之一句话：这些weight是有含义的，机器它学到了东西。
该循环的每个步骤中，我们都会随机抓取训练数据中的100个批处理数据点，然后我们用这些数据点作为参数替换之前的占位符来运行train_step。
使用一小部分的随机数据来进行训练被称为随机训练（stochastic training）- 在这里更确切的说是随机梯度下降训练。在理想情况下，我们希望用我们所有的数据来进行每一步的训练，因为这能给我们更好的训练结果，但显然这需要很大的计算开销。所以，每一次训练我们可以使用不同的数据子集，这样做既可以减少计算开销，又可以最大化地学习到数据集的总体特性。
5. 评估模型
那么我们的模型性能如何呢？
首先让我们找出那些预测正确的标签。tf.argmax 是一个非常有用的函数，它能给出某个tensor对象在某一维上的其数据最大值所在的索引值。由于标签向量是由0,1组成，因此最大值1所在的索引位置就是类别标签，比如tf.argmax(y,1)返回的是模型对于任一输入x预测到的标签值，而 tf.argmax(y_,1) 代表正确的标签，我们可以用 tf.equal 来检测我们的预测是否真实标签匹配(索引位置一样表示匹配)。
#评估模型
correct_prediction = tf.equal(tf.argmax(y,1),tf.argmax(y_,1)) #由于标签向量是由0,1组成，因此最大值1所在的索引位置就是类别标签这行代码会给我们一组布尔值。为了确定正确预测项的比例，我们可以把布尔值转换成浮点数，然后取平均值。例如，[True, False, True, True] 会变成 [1,0,1,1] ，取平均值后得到 0.75.
accuracy = tf.reduce_mean(tf.cast(correct_prediction, "float"))
最后，我们计算所学习到的模型在测试数据集上面的正确率。
print('[accuracy,loss]:',sess.run([accuracy,cross_entropy],feed_dict={x:mnist.test.images,y_:mnist.test.labels}))这个最终结果值应该大约是91%。
这个结果好吗？嗯，并不太好。事实上，这个结果是很差的。这是因为我们仅仅使用了一个非常简单的模型。不过，做一些小小的改进，我们就可以得到97％的正确率。最好的模型甚至可以获得超过99.7％的准确率！（想了解更多信息，可以看看这个关于各种模型的性能对比列表。)
我们来看看loss图：
plt.figure(1)
plt.plot(range(1,step+1),loss_list,'o-',ms=3,lw=1,color='black')
plt.show()
模型在大概第100次时，已经接近饱和，但是总体来说，loss是下降的。
比结果更重要的是，我们从这个模型中学习到的设计思想。不过，如果你仍然对这里的结果有点失望，可以查看下一个讲解，改进该模型，在那里你可以学习如何用FensorFlow构建更加复杂的模型以获得更好的性能！
6. 完整代码
import tensorflow as tf
import matplotlib.pyplot as plt
import PIL.Image as Image
import numpy as np
from tensorflow.contrib.learn.python.learn.datasets.mnist import read_data_sets
mnist = read_data_sets("data/",one_hot=True)
print(mnist)
print(mnist.train.images.shape,mnist.train.labels.shape) #(55000, 784),(55000, 10)
print(mnist.validation.images.shape,mnist.validation.labels.shape) #(5000,784),(5000,10)
print(mnist.test.images.shape,mnist.test.labels.shape) #(10000, 784),(10000, 10)
x = tf.placeholder(dtype='float',shape=[None,784])
w = tf.Variable(tf.zeros([784,10]))
b = tf.Variable(tf.zeros([10]))
y = tf.nn.softmax(tf.matmul(x,w)+b)
#定义实际label占位符
y_ = tf.placeholder(dtype='float',shape=[None,10])
#交叉熵
cross_entropy = -tf.reduce_sum(y_ * tf.log(y))
train_step = tf.train.GradientDescentOptimizer(learning_rate=0.01).minimize(cross_entropy)
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
step = 500 #迭代次数
loss_list = [] #保存loss，便于画图
for i in range(step):
batch_xs,batch_ys = mnist.train.next_batch(100) #shape: (100, 784) (100, 10)
_,loss,weight= sess.run([train_step,cross_entropy,w],feed_dict={x:batch_xs,y_:batch_ys})
loss_list.append(loss)
print('weight\'s shape:',weight.shape) #（784,10)
#===========================================
#显示weight所表征的图，即学到的东西
img_size = 28
for col in range(10):
singel_img = weight[:,col].reshape(img_size,img_size) #取出每列，即数字0~9代表的数
singel_img = [255 if singel_img[i,j]>0 else 0 for i in range(img_size) for j in range(img_size)] #作转换，正的为255，负的为0，类型为list
singel_img = np.array(singel_img).reshape(img_size,img_size) #将list reshape成原图大小（28,28）
img = Image.fromarray(np.uint8(singel_img)).convert('RGB') #数据类型转成uint8，并转成RGB模式
img.save('img/'+'digit_%d.jpg'%col) #保存图片
#plt.imshow(img) #显示图片
#plt.show()
#===========================================
#评估模型
correct_prediction = tf.equal(tf.argmax(y,1),tf.argmax(y_,1)) #由于标签向量是由0,1组成，因此最大值1所在的索引位置就是类别标签
#correct_prediction是bool类型
accuracy = tf.reduce_mean(tf.cast(correct_prediction,'float')) #我们可以把布尔值转换成浮点数，然后取平均值。例如，[True, False, True, True] 会变成 [1,0,1,1] ，取平均值后得到 0.75
print('[accuracy,loss]:',sess.run([accuracy,cross_entropy],feed_dict={x:mnist.test.images,y_:mnist.test.labels}))
plt.figure(1)
plt.plot(range(1,step+1),loss_list,'o-',ms=3,lw=1,color='black')
plt.show()