32 变分自编码器VAE

1 Introduction

本小节主要介绍的是变分自编码器（Variational AutoEncoder），VAE 在之前的变分推断中就有介绍，具体在“随机梯度变分推断（SGVI）”中已进行描述。其中采用了重参数化技巧，也就是Amortized Inference。VAE 在很多blog 中都有详细的解释，这里只是很简单的描述其思想，希望可以抛转引玉。
VAE 中的V 指的是变分推断，这个概念是来自于概率图模型。而AE 的概念是来自于神经网络。所以，VAE 实际上是神经网络和概率图的结合模型。

2 从GMM 到VAE

VAE 是一个Latent Variable Model（LVM）。我们之前介绍的最简单的LVM 是高斯混合模型（GMM），那么GMM 是如何一步一步演变成VAE 的呢？GMM 是k 个高斯分布（Gaussian Dist）的混合，而VAE 的思想是无限个Gaussian Dist 的混合。在GMM 中，Z ∼ Categorical Distribution，如下表所示，

并且, 其中 ${\sum }_{i=1}^k{p}_i=1,$ 在给定 $Z=C_k$ 的情况下，满足 $P\left(X\mid Z=C_i\right)\sim \mathcal{N}\left({\mu }_i,{\sum }_i\right)$ 。很容易可以 感觉到，这个 GMM 顶多就用来做一做聚类分布，复杂的任务根本做不了。比如，目标检测，GMM 肯定就做不了，因为 Z 只是离散的类别，它太简单了。下面举一个例子，假设 X 是人民群众，我们 想把他们分成工人，农民和反动派。由于，Z 是一个一维的变量，那么我们获得的特征就很有限，所 以分类就很简单。

那么，怎样才可以增加 Z 的特征信息呢？因为 Z 是离散的一维的隐变量，那么把它扩展成离散的高维的随机变量，不就行了。那么，变化就来了，大家看好了。GMM 中 Z 是离散的一维变量，那么在 VAE 被扩展为 m 维的高斯分布 $Z\sim \mathcal{N}\left(0,I_{m\times m}\right)$ о而在给定 $Z$ 的条件下 $,P(X\mid Z)\sim \mathcal{N}\left({\mu }_{\theta }(Z),{\sum }_{\theta }(Z)\right)$
这里采用神经网络来通近均值和方差，而不通过重参数化技巧这些直接去算（太麻烦了）。那么均值和方差是一个以Z 为自变量，θ 为参数的函数。那么，假设条件可以总结为：
$$\{\begin{array}{l}Z\sim \mathcal{N}\left(0,I_{m\times m}\right)\\ P(X\mid Z)\sim \mathcal{N}\left({\mu }_{\theta }(Z),{\sum }_{\theta }(Z)\right)\end{array}$$
其中 $Z\sim \mathcal{N}\left(0,I_{m\times m}\right)$ 是一个先验分布假设， $Z$ 服从怎样的先验分布都没有关系，只要是高维的连续的就行了，只是在这里假设为 Gaussian。我们关心的不是先验，我们实际上关心的是后验 $P(Z\mid X),Z$ 实际上只是帮助我们建模的。那么，接下来可以做一系列的推导：
$$P_{\theta }(X)={\int }_Z{P}_{\theta }(X,Z)dZ={\int }_{Z}P(Z)P_{\theta }(X\mid Z)dZ$$

推导到了这里有个什么问题呢？因为 Z 是一个高维的变量，所以 ${\int }_{z}P(Z)P_{\theta }(X\mid Z)dZ$ 是 intractable 积分根本算不出来。由于， $P_{\theta }(X)$ 是 intractable，直接导致 $P_{\theta }(Z\mid X)$ 也算不出来。因为根据 Bayesian 公式,
$$P_{\theta }(Z\mid X)=\frac{P_{\theta }(Z)P_{\theta }(X\mid Z)}{P_{\theta }(X)}$$
实际上这里就是贝叶斯推断中一个很常见的现象，即为归一化因子计算困难。
本小节主要从建模的角度介绍了VAE，实际上这就是一个Latent Variable Model。而GMM 是k个离散的高斯分布的组合，由于隐变量Z 是一维的离散变量，所以表达能力有限。为了增加其泛化能力，将其扩展为高维连续的变量。又因为其维度过高，导致通常情况下，后验分布基本是intractable。所以，下一小节将介绍如何求解此类问题。

3 VAE 的推断和学习

上一小节中简要的描述了VAE 的模型表示，下图则是VAE 的模型图。

假设 $\theta$ 这些都已经求出来了。如果要生成一个样本，怎么生成呢？我们先从 $Z\sim P(Z)$ 中进行采样 得到一个 $z^{(i)}$ 。那么, $x^{(i)}\sim P_{\theta }\left(X\mid Z=z^{(i)}\right)$ 进行采样即可。所以，这下大家可以深刻的理解, 为什么我 们关注的是后验 $P(X\mid Z)$ 了。而 $P_{\theta }\left(X\mid Z=z^{(i)}\right)$ 是件么？我们用一个神经网络取逼近它就行了。**注意:本文中将其假设为高析分布，并不是必要的，这个都是我们自定义的，是不是高斯分布都没有关系。**由 于 $P_{\theta }(X\mid Z)$ 是 intractable 的, 所以自然的想到可以用一个简单分布去逼近它: $Q_{\varphi }(Z\mid X)\to P_{\theta }(X\mid Z)$ 即为：

前面已经讲过很多遍了，通常方法可以将 $\log P(X)$ 做如下分解：
$$\log P(X)=\mathrm{E}\mathrm{L}\mathrm{B}\mathrm{O}+\mathrm{K}\mathrm{L}\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z\mid X)\right)$$
然后采用 EM 算法求解，EM 算法是一种基于时间的迭代算法，之前已经做了详细的解释，大家可以， 自行查阅， E-step 为：当 $Q=P_{\theta }(Z\mid X)$ 时， $\mathrm{K}\mathrm{L}=0,$ 此时 expectation 就是 $\mathrm{E}\mathrm{L}\mathrm{B}\mathrm{O}$ M-step 为：
$$\theta =\arg \underset{\theta }{\max }\mathrm{E}\mathrm{L}\mathrm{B}\mathrm{O}=\arg \underset{\theta }{\max }{\mathbb{E}}_{P_{\theta }(Z\mid X)}\left[\log P_{\theta }(X,Z)\right]（5）$$

但是，肯定 EM 算法是用不了的，原因很简单 $Q=P_{\theta }(Z\mid X)$ 这一步根本就做不到， $P_{\theta }(Z\mid X)$ 求不出 来的。我们的求解目标是使 $P_{\theta }(Z\mid X)$ 和 $Q_{\varphi }(Z\mid X)$ 靠的越近越好。那么可以表达为：
$$\begin{array}{rl}⟨\hat{\theta },\hat{\varphi }⟩& =\arg \min \mathrm{KL}\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z\mid X)\right)\\ & =\arg \max \mathrm{ELBO}\\ & =\arg \max {\mathbb{E}}_{Q_{\theta }(Z\mid X)}[\log \underset{P_{\theta }(X\mid Z)P(Z)}{P_{\theta }(X,Z)]}+\mathrm{H}\left(Q_{\varphi }(Z\mid X)\right)\\ & =\arg \max {\mathbb{E}}_{Q_{\theta }(Z\mid X)}\left[\log P_{\theta }(X\mid Z)\right]-\mathrm{K}\mathrm{L}\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z)\right)\end{array}（6）$$
然后，关于 $\theta$ 和 $\varphi$ 求梯度，采用梯度上升法来求解最优参数。可能大家会看到很多的叫法，SGVI, SGVB，SVI, Amortized Inference，实际上都是一样的，都是结合概率图模型和神经网络，使用重参 数化技巧来近似后验分布，至于梯度怎么求，在“变分推断”中详细的介绍了 SGVI 方法的梯度计算 方法。而怎样从分布 $Q_{\varphi }(Z\mid X)$ 中进行采样呢？用到的是重参数化技巧。

其中， $ϵ$ 是環声，通常假定为 $ϵ\sim \mathcal{N}(0,I);$ 而且 $,P(Z\mid X)\sim \mathcal{N}\left({\mu }_{\varphi }(X),{\sum }_{\varphi }(X)\right),$ 而很容易可以得到， $Z={\mu }_{\varphi }(X)+{\sum }_{\varphi }(X{)}^{\frac{1}{2}}\cdot {ϵ}_{\circ }$ 那么到这里就基本思想就讲完了，想了解更多的东西，建议看看苏 建林的 blog: https://spaces.ac.cn/。
实际上大家会发现，所谓的 VAE 不过是“新瓶装旧酒”。只不过是用之前的技术对当前的概念进行 了包装而已。大家可以关注一下这两项，而 $E_{Q_{\varphi }(Z\mid X)}\left[\log P_{\theta }(X\mid Z)\right]$ 和 $\mathrm{KL}\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z)\right)$ 。这个 $Z\to X$
的过程可以被称为 Decode，而 X $\to Z$ 被称为 Encode。我们可以看到，在训练过程中，首先是从 $Q_{\varphi }(Z\mid X)$ 中采样得到 $z^{(i)}:z^{(i)}\sim Q_{\varphi }(Z\mid X),$ 然后利用 $z^{(i)}$ 生成出样本 $x^{(i)},$ 即为 $x^{(i)}=X\sim P(X\mid Z=z^{(i)})$ 。这样就形成了一个环，从 $X$ 开始到 $X$ 结束。注意：训统时， $Z$ 由 $Q_{\varphi }(Z\mid X)$ 生成, 而生成样本
时，Z 是从简单的高斯分布中采样得到的。
而 $\mathrm{K}\mathrm{L}\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z)\right)$ 就是一个正则化项，对 $Q_{\varphi }(Z\mid X)$ 有一个约束，希望其尽量靠近标准高斯 分布。不让模型坍缩到一个点上，如果没有这一项，只是去学习 ${\mathbb{E}}_{Q_{\varphi }(Z\mid X)}\left[\log P_{\theta }(X\mid Z)\right]$ 就很有可能会 过拟合。第一项应该是真正的 objective function，而第二项是一个 regularization。实际上第二项扮演的功能和熵正则化项是一样的，都是使分布尽可能均匀，从而保留更多的可能性，因为熵就是信息量的表现，熵越大可能性越大。
以上就是对公式（6）中结果的详细解释。

4 小结

本节只是对 VAE 的简单描述，更深层次的思想可以参考苏建林的 blog: https://spaces.ac.cn/。 本节主要介绍了 VAE 的模型表示和推断学习过程。有关变分推断的部分，请大家自行阅读“变分推断”中的 SGVI 方法和“近似推断”那一小节，其中都做了详细的描述。我觉得本章的可读点在，1.从 GMM 模型中引出了 VAE，VAE 不过是 GMM 的进阶版。2. 进阶以后发现维度太高，后验分布 $P_{\theta }(Z\mid X)$ 计算不出来，于是采用简单分布 $Q_{\varphi }(Z\mid X)$ 来近似，这就变分法的思想。3. 详细的介绍了优化 ELBO 中每一项的意思，这里 KL $\left(Q_{\varphi }(Z\mid X)\Vert P_{\theta }(Z)\right)$ 是正则化项，相信很多同学在看 VAE 中，描 述令表示层服从高斯分布的时候都是一脸槽逼的吧。4. 本文中还复习了用神经网络，代替分布进行采 样的重参数化技巧。
其实VAE 不过是“新瓶装旧酒”，本身并没有什么技术的革新，用到的算法和思想都是比较老的。