自编码器概念

自编码器的定义与原理

自编码器简介

Encoder：将图片编码并压缩成向量
Decoder：由压缩的向量重建图片
编码器：输入图片生成向量
生成器：输入向量生成图片
自编码器是指使用自身的高阶特征编码自己。
自编码器是一种神经网络，它的输入和输出是一致的，目标是使用稀疏的高阶特征重新组合来重构自己。
自动编码器是一种数据的压缩算法，其中数据的压缩和解压缩函数是数据相关的、有损的、从样本中自动学习的。
在大部分提到自动编码器的场合，压缩和解压缩的函数是通过神经网络实现的。
自编码器的特点：

1. 自动编码器是数据相关的，这意味着自动编码器只能压缩那些与训练数据类似的数据。
2. 自动编码器是有损的，与无损压缩算法不同。
3. 自动编码器是从数据样本中自动学习

自编码器的设计

主要内容：

1. 搭建编码器
2. 搭建解码器
3. 设定损失函数
   自编码的网络架构如图所示
   

自编码器的应用

1. 数据去噪
2. 降维
3. 图像生成

图像生成时输入的向量不能是一个随机的向量，必须是经过Encode得到的一个向量，如果给一个随机的向量，则生出的图片是杂乱的图像。
问题：能够给生成器随机的向量，可以得到一些随机的图片呢？
回答：变分自编码器

变分自编码器（VAE）

变分编码器可以随机生成隐含变量
提高网络的泛化能力，比普通的自动编码器要好
缺点就是生成的图片会有点模糊

生成器：随机的正态分布的变量可生成较好的图片
损失函数构造考虑问题：

1. 输入输出图像要尽可能的相似
2. 中间生成的向量要尽可能服从正态分布