【机器学习】自动编码器 - Autoencoder

---

一、自编码器（Autoencoder）简单模型介绍

暂且不谈神经网络、深度学习等，仅仅是自编码器的话，其原理其实很简单：
自编码器可以理解为一个试图去 还原其原始输入 的系统。自编码器模型如下图所示。

从上图可以看出，自编码器模型主要由编码器（Encoder）和解码器（Decoder）组成，其主要目的是将输入 x 转换成中间变量 y ，然后再将 y 转换成 x~ ，然后对比输入 x 和输出 x~，使得他们两个无限接近。

这就是自编码器最基本的原理。

---

二、神经网络自编码模型

在深度学习中，自动编码器是一种 无监督 的 神经网络 模型，它可以学习到输入数据的隐含特征，这称为编码(coding)，同时用学习到的新特征可以重构出原始输入数据，称之为解码(decoding)。

从直观上来看，自动编码器可以用于 特征降维 ，类似主成分分析 PCA ，但是相比 PCA 其性能更强，这是由于神经网络模型可以提取更有效的新特征。除了进行特征降维，自动编码器学习到的新特征可以送入有监督学习模型中，所以自动编码器可以起到 特征提取器 的作用。举个例子，我有一张清晰图片，首先我通过编码器压缩这张图片的大小（如果展现出来可能比较模糊），然后在需要解码的时候将其还原成清晰的图片。具体过程如下图所示：

那么此时可能会有人问了，好端端的图片为什么要压缩呢？其主要原因是：有时神经网络要接受大量的输入信息，比如输入信息是高清图片时，输入信息量可能达到上千万，让神经网络直接从上千万个信息源中学习是一件很吃力的工作。所以，何不压缩一下，提取出原图片中的最具代表性的信息 ，缩减输入信息量，再把缩减过后的信息放进神经网络学习。这样学习起来就简单轻松了。所以，自编码就能在这时发挥作用。通过将原数据 x 压缩，解压成 x~，然后通过对比 x 和 x~，求出预测误差，进行反向传递，逐步提升自编码的准确性。训练好的自编码中间这一部分就能总结出原数据的精髓。可以看出，从头到尾，我们只用到了输入数据 X，并没有用到 X 对应的数据标签，所以也可以说自编码是一种非监督学习。到了真正使用自编码的时候，通常只会用到自编码器的前半部分（ 编码器 - Encoder ）。

---

三、神经网络自编码器三大特点

1. 自动编码器是数据相关的（data-specific 或 data-dependent），这意味着自动编码器只能压缩那些与训练数据类似的数据。比如，使用人脸训练出来的自动编码器在压缩别的图片（比如树木）时，性能很差，因为它学习到的特征是与人脸相关的。

2. 自动编码器是有损的，意思是解压缩的输出与原来的输入相比是退化的，MP3，JPEG等压缩算法也是如此。这与无损压缩算法不同。

3. 自动编码器是从数据样本中自动学习的，这意味着很容易对指定类的输入训练出一种特定的编码器，而不需要完成任何新工作。

---

四、自编码器（Autoencoder）搭建

搭建一个自动编码器需要完成下面三样工作：

1. 搭建编码器；
2. 搭建解码器；
3. 设定一个损失函数，用以衡量由于压缩而损失掉的信息。

编码器和解码器一般都是参数化的方程，并关于损失函数可导，典型情况是使用神经网络。编码器和解码器的参数可以通过最小化损失函数而优化，例如SGD。

举个例子：根据上面介绍，自动编码器看作由两个级联网络组成：

• 第一个网络是一个编码器，负责接收输入 x，并将输入通过函数 h 变换为信号 y：y = h(x)

• 第二个网络将编码的信号 y 作为其输入，通过函数 f 得到重构的信号 r：r = f(y) = f(h(x))

• 定义误差 e 为原始输入 x 与重构信号 r 之差，e=x–r，网络训练的目标是减少均方误差（MSE），同 MLP 一样，误差被反向传播回隐藏层。

---

五、几种常见编码器

自编码器（autoencoder）是神经网络的一种，经过训练后能尝试将输入复制到输出。自编码器（autoencoder）内部有一个隐藏层 h，可以产生编码（code）表示输入。该网络可以看作由两部分组成：一个由函数 h = f(x) 表示的编码器和一个生成重构的解码器 r = g(h)。如果一个自编码器只是简单地学会将处处设置为 g(f(x)) = x，那么这个自编码器就没什么特别的用处。相反，我们 不应该 将自编码器设计成输入到输出完全相等。这通常需要向自编码器强加一些约束，使它只能 近似地 复制，并只能复制与训练数据相似的输入。这些约束强制模型考虑输入数据的哪些部分需要被优先复制，因此它往往能学习到数据的有用特性。

1. 堆栈自动编码器

前面讲的自编码器只是简单地含有一层，其实可以采用更深层的架构，这就是堆栈自动编码器或者深度自动编码器，本质上就是 增加中间特征层数 。这里我们以MNIST数据为例来说明自动编码器，建立两个隐含层的自动编码器，如下图所示：

对于MNIST来说，其输入是 28*28=784 维度的特征，这里使用了两个隐含层其维度分别为 300 和 150，可以看到是不断降低特征的维度了。得到的最终编码为 150 维度的特征，使用这个特征进行反向重构得到重建的特征，我们希望重建特征和原始特征尽量相同。

2. 欠完备自编码器

从自编码器获得有用特征的一种方法是限制 h 的维度比 x 小，这种编码维度小于输入维度的自编码器称为欠完备（undercomplete）自编码器。学习欠完备的表示将强制自编码器捕捉训练数据中最显著的特征。

3. 正则自编码器

使用的损失函数可以鼓励模型学习其他特性（除了将输入复制到输出），而不必限制使用浅层的编码器和解码器以及小的编码维数来限制模型的容量。这些特性包括稀疏表示、表示的小导数、以及对噪声或输入缺失的鲁棒性。即使模型容量大到足以学习一个无意义的恒等函数，非线性且过完备的正则自编码器仍然能够从数据中学到一些关于数据分布的有用信息。

4. 噪自编码器（denoisingautoencoder, DAE）

是一类接受损坏数据作为输入，并训练来预测原始未被损坏数据作为输出的自编码器。

---

参考链接

1. 【全】一文带你了解自编码器（AutoEncoder）