[Python人工智能] 三十七.Keras构建无监督学习Autoencoder模型及MNIST聚类可视化详解

从本专栏开始，作者正式研究Python深度学习、神经网络及人工智能相关知识。前一篇文章详细讲解了基于Transformer的商品评论情感分析案例。本篇文章将分享无监督学习Autoencoder的原理知识，然后介绍Keras构建自编码的案例，即通过MNIST手写数字案例进行对比实验及聚类分析，运行效果如下图所示。基础性文章，希望对您有所帮助！

本专栏主要结合作者之前的博客、AI经验和莫烦老师的视频（强推"莫烦大神"视频）及论文介绍，后面随着深入会讲解更多的Python人工智能案例及应用。基础性文章，希望对您有所帮助，如果文章中存在错误或不足之处，还请海涵！作者作为人工智能的菜鸟，希望大家能与我在这一笔一划的博客中成长起来。写了这么多年博客，尝试第一个付（打）费（赏）专栏，为小宝赚点奶粉钱，其实github和公众号都已免费开源，且作者更多的博客尤其基础性文章，一直是免费分享。该专栏也会用心撰写，望对得起读者。如果有问题随时私聊我，只望您能从这个系列中学到知识，一起加油喔~

• Keras下载地址：https://github.com/eastmountyxz/AI-for-Keras
• TensorFlow下载地址：https://github.com/eastmountyxz/AI-for-TensorFlow

前文赏析：

• [Python人工智能] 一.TensorFlow2.0环境搭建及神经网络入门
• [Python人工智能] 二.TensorFlow基础及一元直线预测案例
• [Python人工智能] 三.TensorFlow基础之Session、变量、传入值和激励函数
• [Python人工智能] 四.TensorFlow创建回归神经网络及Optimizer优化器
• [Python人工智能] 五.Tensorboard可视化基本用法及绘制整个神经网络
• [Python人工智能] 六.TensorFlow实现分类学习及MNIST手写体识别案例
• [Python人工智能] 七.什么是过拟合及dropout解决神经网络中的过拟合问题
• [Python人工智能] 八.卷积神经网络CNN原理详解及TensorFlow编写CNN
• [Python人工智能] 九.gensim词向量Word2Vec安装及《庆余年》中文短文本相似度计算
• [Python人工智能] 十.Tensorflow+Opencv实现CNN自定义图像分类案例及与机器学习KNN图像分类算法对比
• [Python人工智能] 十一.Tensorflow如何保存神经网络参数
• [Python人工智能] 十二.循环神经网络RNN和LSTM原理详解及TensorFlow编写RNN分类案例
• [Python人工智能] 十三.如何评价神经网络、loss曲线图绘制、图像分类案例的F值计算
• [Python人工智能] 十四.循环神经网络LSTM RNN回归案例之sin曲线预测
• [Python人工智能] 十五.无监督学习Autoencoder原理及聚类可视化案例详解
• [Python人工智能] 十六.Keras环境搭建、入门基础及回归神经网络案例
• [Python人工智能] 十七.Keras搭建分类神经网络及MNIST数字图像案例分析
• [Python人工智能] 十八.Keras搭建卷积神经网络及CNN原理详解
  [Python人工智能] 十九.Keras搭建循环神经网络分类案例及RNN原理详解
• [Python人工智能] 二十.基于Keras+RNN的文本分类vs基于传统机器学习的文本分类
• [Python人工智能] 二十一.Word2Vec+CNN中文文本分类详解及与机器学习（RF\DTC\SVM\KNN\NB\LR）分类对比
• [Python人工智能] 二十二.基于大连理工情感词典的情感分析和情绪计算
• [Python人工智能] 二十三.基于机器学习和TFIDF的情感分类（含详细的NLP数据清洗）
• [Python人工智能] 二十四.易学智能GPU搭建Keras环境实现LSTM恶意URL请求分类
• [Python人工智能] 二十六.基于BiLSTM-CRF的医学命名实体识别研究（上）数据预处理
• [Python人工智能] 二十七.基于BiLSTM-CRF的医学命名实体识别研究（下）模型构建
• [Python人工智能] 二十八.Keras深度学习中文文本分类万字总结（CNN、TextCNN、LSTM、BiLSTM、BiLSTM+Attention）
• [Python人工智能] 二十九.什么是生成对抗网络GAN？基础原理和代码普及(1)
• [Python人工智能] 三十.Keras深度学习构建CNN识别阿拉伯手写文字图像
• [Python人工智能] 三十一.Keras实现BiLSTM微博情感分类和LDA主题挖掘分析
• [Python人工智能] 三十二.Bert模型 (1)Keras-bert基本用法及预训练模型
• [Python人工智能] 三十三.Bert模型 (2)keras-bert库构建Bert模型实现文本分类
• [Python人工智能] 三十四.Bert模型 (3)keras-bert库构建Bert模型实现微博情感分析
• [Python人工智能] 三十五.基于Transformer的商品评论情感分析 (1)机器学习和深度学习的Baseline模型实现
• [Python人工智能] 三十六.基于Transformer的商品评论情感分析 (2)keras构建多头自注意力（Transformer）模型
• [Python人工智能] 三十七.Keras构建无监督学习Autoencoder模型及MNIST聚类可视化详解

---

一.什么是Autoencoder

自编码器（autoencoder, AE）是一类在半监督学习和非监督学习中使用的人工神经网络（Artificial Neural Networks, ANNs），其功能是通过将输入信息作为学习目标，对输入信息进行表征学习（representation learning）。自编码器包含编码器（encoder）和解码器（decoder）两部分 。

(1) 首先，什么是自编码（Autoencoder）？
自编码是一种神经网络的形式，注意它是无监督学习算法。例如现在有一张图片，需要给它打码，然后又还原图片的过程，如下图所示：

一张图片经过压缩再解压的工序，当压缩时原有的图片质量被缩减，当解压时用信息量小却包含所有关键性文件恢复出原来的图片。为什么要这么做呢？有时神经网络需要输入大量的信息，比如分析高清图片时，输入量会上千万，神经网络从上千万中学习是非常难的一个工作，此时需要进行压缩，提取原图片中具有代表性的信息或特征，压缩输入的信息量，再把压缩的信息放入神经网络中学习。这样学习就变得轻松了，所以自编码就在这个时候发挥作用。

如下图所示，将原数据白色的X压缩解压成黑色的X，然后通过对比两个X，求出误差，再进行反向的传递，逐步提升自编码的准确性。

训练好的自编码，中间那部分就是原数据的精髓，从头到尾我们只用到了输入变量X，并没有用到输入变量对应的标签，所以自编码是一种无监督学习算法。

但是真正使用自编码时，通常只用到它的前半部分，叫做编码器，能得到原数据的精髓。然后只需要创建小的神经网络进行训练，不仅减小了神经网络的负担，而且同样能达到很好的效果。

(2) 自编码器的计算过程
在真实场景中，自编码器会不断计算原始数据和重构数据之间的误差，再反向传递提升自编码器的准确性，由于整个过程没有用到输入数据对应的标签，因此自编码器是一种无监督学习算法。自编码器的关键是编码器和解码器，假设给定输入空间和特征空间，自编码器求解两者的映射f和g，使得输入特征的重构误差最小，其计算过程如下：

下图是自编码整理出来的数据，它能总结出每类数据的特征，如果把这些数据放在一张二维图片上，每一种数据都能很好的用其精髓把原数据区分开来。自编码能类似于PCA（主成分分析）一样提取数据特征，也能用来降维，其降维效果甚至超越了PCA。

(3) 自编码器的应用场景
自编码器具有一般意义上表征学习算法的功能，常用场景包括：

• 降维（dimensionality reduction）
• 异常值检测（anomaly detection）
• 文本聚类
• 数据去燥
• 图像修复
• 信道压缩与重建
• 信息检索
• …

自编码器在其研究早期是为解决表征学习中的“编码器问题（encoder problem）”，即基于神经网络的降维问题而提出的联结主义模型的学习算法。1985年，David H. Ackley、Geoffrey E. Hinton和Terrence J. Sejnowski在玻尔兹曼机上对自编码器算法进行了首次尝试，并通过模型权重对其表征学习能力进行了讨论 。在1986年反向传播算法（Back-Propagation, BP）被正式提出后，自编码器算法作为BP的实现之一，即“自监督的反向传播（Self-supervised BP）”得到了研究 ，并在1987年被Jeffrey L. Elman和David Zipser用于语音数据的表征学习试验。

自编码器作为一类神经网络结构（包含编码器和解码器两部分）的正式提出，来自1987年Yann LeCun发表的研究。LeCun (1987)使用多层感知器（Multi-Layer Perceptron, MLP）构建了包含编码器和解码器的神经网络，并将其用于数据降噪。此外，在同一时期，Bourlard and Kamp (1988)使用MLP自编码器对数据降维进行的研究也得到了关注。1994年，Hinton和Richard S. Zemel通过提出“最小描述长度原理（Minimum Description Length principle, MDL）”构建了第一个基于自编码器的生成模型 。
——百度百科 https://baike.baidu.com/item/自编码器/23686966

---

二.Autoencoder分析MNIST数据

Autoencoder算法属于非监督学习，它是把数据特征压缩，再把压缩后的特征解压的过程，跟PCA降维压缩类似。本篇文章的代码包括两部分内容：

• 第一部分：使用MNIST数据集，通过feature的压缩和解压，对比解压后的图片和压缩之前的图片，看看是否一致，实验想要的效果是和图片压缩之前的差不多。
• 第二部分：输出encoder的结果，压缩至两个元素并可视化显示。在显示图片中，相同颜色表示同一类型图片，比如类型为1（数字1），类型为2（数字2）等等，最终实现无监督的聚类。

有监督学习和无监督学习的区别：
(1) 有监督学习方法必须要有训练集与测试样本。在训练集中找规律，而对测试样本使用这种规律。而非监督学习没有训练集，只有一组数据，在该组数据集内寻找规律。
(2) 有监督学习的方法就是识别事物，识别的结果表现在给待识别数据加上了标签。因此训练样本集必须由带标签的样本组成。而非监督学习方法只有要分析的数据集的本身，预先没有什么标签。 如果发现数据集呈现某种聚集性，则可按自然的聚集性分类，但不予以某种预先分类标签对上号为目的。

让我们开始编写代码吧！采用Keras构建。

第一步，打开Anaconda，然后选择已经搭建好的“tensorflow”环境，运行Spyder。

第二步，导入扩展包。

import numpy as np
from keras.datasets import mnist
from keras.utils import np_utils
from keras.models import Model
from keras.layers import Dense, Input
import matplotlib.pyplot as plt

第三步，下载数据集。
由于MNIST数据集是TensorFlow的示例数据，所以我们只需要下面一行代码，即可实现数据集的读取工作。如果数据集不存在它会在线下载，如果数据集已经被下载，它会被直接调用。

• 注意，仅使用x数据集

#-------------------------下载MNIST数据--------------------------------
(x_train, _), (x_test, y_test) = mnist.load_data()
print(x_train.shape, x_test.shape, _.shape, y_test.shape)

输出结果如下，MNIST图片是28*28的像素，包括6万张训练集和1万张测试集。

(60000, 28, 28) (10000, 28, 28) (60000,) (10000,)

第四步，数据预处理。
通过minmax_normalized处理至(-0.5,0.5)区间，再修改其形状。

#---------------------------数据预处理--------------------------------
x_train = x_train.astype('float32') / 255. - 0.5 
x_test = x_test.astype('float32') / 255. - 0.5
x_train = x_train.reshape((x_train.shape[0], -1))
x_test = x_test.reshape((x_test.shape[0], -1))
print(x_train.shape, x_test.shape)

输出如下：

(60000, 784) (10000, 784)

第五步，编写核心代码，即定义encoder和decoder函数来实现压缩和解压操作。
整个自编码器的输入特征为784，feature不断压缩，先压缩成128个，再经过一层隐藏层压缩到64个，再压缩至10，最终压缩成两维特征（方便可视化聚类）。然后把2个特征依次放大，最终解压成784个。最后对解压的784个和原始的784个特征进行cost对比，并根据cost提升Autoencoder的准确率。

#-----------------------构建Encoder和Decoder层-----------------------
#降维可视化绘制2D图
encoding_dim = 2

#input placeholder 28*28
input_img = Input(shape=(784,))

#Encoder layers（压缩）
encoded = Dense(128, activation='relu')(input_img)
encoded = Dense(64, activation='relu')(encoded)
encoded = Dense(10, activation='relu')(encoded)
encoder_output = Dense(encoding_dim,)(encoded)

#Decoder Layers（解压）
decoded = Dense(10, activation='relu')(encoder_output)
decoded = Dense(64, activation='relu')(decoded)
decoded = Dense(128, activation='relu')(decoded)
decoded = Dense(784, activation='tanh')(decoded)

关键代码解析如下，encoder和decoder均包括四层，具体含义为：

• encoded = Dense(128, activation=‘relu’)(input_img)
  利用Dense构造Encoder层，其输出值为128，输入值为input_img
• encoded = Dense(64, activation=‘relu’)(encoded)
  第二层的输出是64，输入是上一个构建的encoded
• encoded = Dense(10, activation=‘relu’)(encoded)
  第三层压缩至10
• encoder_output = Dense(encoding_dim,)(encoded)
  最后构建需要的自编码压缩器，压缩成2个值，它能代表整个784个特征，并且可用于聚类

通常Encoder怎么构建，Decoder也对应反向构建，实现解压处理，重构至784个特征，关键代码如下：

• decoded = Dense(10, activation=‘relu’)(encoder_output)
• decoded = Dense(64, activation=‘relu’)(decoded)
• decoded = Dense(128, activation=‘relu’)(decoded)
• decoded = Dense(784, activation=‘tanh’)(decoded)
  由于输入值是(-0.5,0.5)，而使用tanh激活函数的范围是(-1,1)，因此实现对应效果

第六步，构造自编码器模型，同时构建encoder模型进行可视化分析。

#构造自编码器模型
autoencoder = Model(inputs=input_img, outputs=decoded)

#构建encoder模型进行可视化分析
encoder = Model(inputs=input_img, outputs=encoder_output)

#激活自编码器
autoencoder.compile(optimizer='adam', loss='mse')

第七步，训练、测试和可视化代码，该部分为神经网络运行的核心代码。
输入和输出均是x_train，对比二者形成误差。可视化包括：

• 调用matplotlib库画图，可视化对比原始图像和预测图像
• 压缩结果聚类分析

#-----------------------------训练和测试------------------------------
#训练
autoencoder.fit(x_train, 
                x_train, 
                epochs=20,
                batch_size=256,
                shuffle=True)

#预测
encoded_imgs = encoder.predict(x_test)     #压缩二维特征 用于聚类
decoded_imgs = autoencoder.predict(x_test) #自编码器还原的图像

#比较原始图像和预测图像数据
f, a = plt.subplots(2, 10, figsize=(10, 2))
for i in range(10):
    a[0][i].imshow(np.reshape(x_test[i], (28, 28)))
    a[1][i].imshow(np.reshape(decoded_imgs[i], (28, 28)))
plt.show()

#聚类分析
plt.scatter(encoded_imgs[:,0], encoded_imgs[:,1], c=y_test)
plt.colorbar()
plt.show()

运行结果如下所示：

(60000, 28, 28) (10000, 28, 28) (60000,) (10000,)
(60000, 784) (10000, 784)
Epoch 1/20
235/235 [==============================] - 2s 5ms/step - loss: 0.0697
Epoch 2/20
235/235 [==============================] - 1s 6ms/step - loss: 0.0564
Epoch 3/20
235/235 [==============================] - 1s 5ms/step - loss: 0.0516
Epoch 4/20
235/235 [==============================] - 1s 6ms/step - loss: 0.0493
Epoch 5/20
235/235 [==============================] - 1s 6ms/step - loss: 0.0475
Epoch 6/20
235/235 [==============================] - 1s 5ms/step - loss: 0.0462
Epoch 7/20
235/235 [==============================] - 1s 6ms/step - loss: 0.0453
Epoch 8/20
235/235 [==============================] - 1s 5ms/step - loss: 0.0446
Epoch 9/20
235/235 [==============================] - 1s 5ms/step - loss: 0.0439
Epoch 10/20
235/235 [==============================] - 2s 6ms/step - loss: 0.0432
Epoch 11/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0427
Epoch 12/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0421
Epoch 13/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0418
Epoch 14/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0414
Epoch 15/20
235/235 [==============================] - 2s 8ms/step - loss: 0.0411
Epoch 16/20
235/235 [==============================] - 2s 8ms/step - loss: 0.0409
Epoch 17/20
235/235 [==============================] - 2s 6ms/step - loss: 0.0406
Epoch 18/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0404
Epoch 19/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0401
Epoch 20/20
235/235 [==============================] - 2s 7ms/step - loss: 0.0400

通过20批训练，显示结果如下图所示，上面是真实的原始图像，下面是压缩之后再解压的图像数据。

聚类显示结果如下图所示，它将不同颜色的分在一堆，对应不同的数字。

---

三.完整代码

最后给出完整代码，也希望读者能将自编码器应用到更多场景中。同时，整个聚类结果还有待改善，因为这只是Autoencoder的一个简单例子。希望这篇文章能够帮助博友们理解和认识无监督学习和Autoencoder算法，后续作者会更深入的分享好案例。

# -*- coding: utf-8 -*-
# By：Eastmount CSDN 2022-08-23
import numpy as np
from keras.datasets import mnist
from keras.utils import np_utils
from keras.models import Model
from keras.layers import Dense, Input
import matplotlib.pyplot as plt

#-------------------------下载MNIST数据--------------------------------
#只使用x数据集
(x_train, _), (x_test, y_test) = mnist.load_data()
print(x_train.shape, x_test.shape, _.shape, y_test.shape)

#---------------------------数据预处理--------------------------------
#minmax_normalized 处理至(-0.5,0.5)区间
x_train = x_train.astype('float32') / 255. - 0.5 
x_test = x_test.astype('float32') / 255. - 0.5
x_train = x_train.reshape((x_train.shape[0], -1))
x_test = x_test.reshape((x_test.shape[0], -1))
print(x_train.shape, x_test.shape)

#-----------------------构建Encoder和Decoder层-----------------------
#降维可视化绘制2D图
encoding_dim = 2

#input placeholder 28*28
input_img = Input(shape=(784,))

#Encoder layers（压缩）
#利用Dense构造Encoder层，其输出值为128，输入值为input_img
encoded = Dense(128, activation='relu')(input_img)
#第二层的输出是64，输入是上一个构建的encoded
encoded = Dense(64, activation='relu')(encoded)
#第三层压缩至10
encoded = Dense(10, activation='relu')(encoded)
#最后构建需要的自编码压缩器，压缩成2个值，它能代表整个784个特征
encoder_output = Dense(encoding_dim,)(encoded)

#Decoder Layers（解压）
#通常Encoder怎么构建，Decoder也对应反向构建，实现解压处理，重构至784个特征
decoded = Dense(10, activation='relu')(encoder_output)
decoded = Dense(64, activation='relu')(decoded)
decoded = Dense(128, activation='relu')(decoded)
#由于输入值是(-0.5,0.5)，而使用tanh激活函数的范围是(-1,1)，因此实现对应效果
decoded = Dense(784, activation='tanh')(decoded)

#--------------------------构造自编码器模型---------------------------
autoencoder = Model(inputs=input_img, outputs=decoded)

#构建encoder模型进行可视化分析
encoder = Model(inputs=input_img, outputs=encoder_output)

#激活自编码器
autoencoder.compile(optimizer='adam', loss='mse')

#-----------------------------训练和测试------------------------------
#输入和输出均是x_train,对比二者形成误差
autoencoder.fit(x_train, 
                x_train, 
                epochs=20,
                batch_size=256,
                shuffle=True)

#预测
encoded_imgs = encoder.predict(x_test)     #压缩二维特征 用于聚类
decoded_imgs = autoencoder.predict(x_test) #自编码器还原的图像

#比较原始图像和预测图像数据
f, a = plt.subplots(2, 10, figsize=(10, 2))
for i in range(10):
    a[0][i].imshow(np.reshape(x_test[i], (28, 28)))
    a[1][i].imshow(np.reshape(decoded_imgs[i], (28, 28)))
plt.show()

#聚类分析
plt.scatter(encoded_imgs[:,0], encoded_imgs[:,1], c=y_test)
plt.colorbar()
plt.show()

---

四.总结

写到这里，本文介绍就完了，更多深度学习文章会继续分享，接下来我们会分享迁移学习、GAN、机器翻译、NER、文本识别、图像识别、语音识别等内容。如果读者有什么想学习的，也可以私聊我，我去学习并应用到您的领域。

最后，希望这篇基础性文章对您有所帮助，如果文章中存在错误或不足之处，还请海涵~作为人工智能的菜鸟，我希望自己能不断进步并深入，后续将它应用于图像识别、网络安全、对抗样本等领域，指导大家撰写简单的学术论文，一起加油！

下载地址：

• https://github.com/eastmountyxz/AI-for-Keras
• https://github.com/eastmountyxz/AI-for-TensorFlow

(By:Eastmount 2022-08-23 夜于武汉 http://blog.csdn.net/eastmount/ )

---

参考文献：
[1] 杨秀璋, 颜娜. Python网络数据爬取及分析从入门到精通（分析篇）[M]. 北京：北京航天航空大学出版社, 2018.
[2] “莫烦大神” 网易云视频地址
[3] https://study.163.com/course/courseLearn.htm?courseId=1003209007
[4] https://github.com/siucaan/CNN_MNIST
[5] https://github.com/eastmountyxz/AI-for-TensorFlow
[6]《机器学习》周志华
[7] 深度学习（07）RNN-循环神经网络-02-Tensorflow中的实现 - 莫失莫忘Lawlite
[8] https://github.com/lawlite19/DeepLearning_Python