Second paper:《Auto-encoding Variational Bayes》自编码变分贝叶斯的阅读笔记

这是生成模型下面阅读的second paper：

论文地址：[1312.6114] Auto-Encoding Variational Bayes

来源：arXiv:1312.6114v10 [stat.ML] 1 May 2014

参考文章链接：https://zhuanlan.zhihu.com/p/37224492

1 介绍

在涉及如下图所示的包含隐变量的学习和推理问题时，往往会遇到后验概率不可计算的情况，这会导致参数难以学习以及推理难以进行。下边的问题基于下图所示的概率图进行讨论，其中  表示样本集大小，  表示观察变量，  表示隐含变量，生成模型表示为  ，  是对  的近似，表示识别模型。

                                                                              

                                                                  观察变量及隐变量概率图

注：从x到z是inference model（encoder）,从z到x是generative model (decoder),对于在生成模型这一部分中是生成模型的后验概率。而对于实际的生成模型中这一后验概率往往是不可计算的，所以需要根据假设分布来进行近似，再利用KL散度来刻画这两个分布的相似度（最小化）。这也是斯坦福Ermon教授的EM[1]----EM[2]-----EM[3]中提到的逐次进行近似刻画。

 

2 Problem

  2.1不可计算问题

如果对概率图所示的随机变量  、  进行建模，便得到生成模型  ：

遍历样本得到对数似然函数： ，先验概率的计算公式为 ，如果公式不可以写成有限运算的形式，则不可计算，故无法通过ML算法进行参数优化，同时  中含有先验概率也不可计算，故无法使用EM算法对参数进行优化以及进行所有基于后验概率的推理。为了解决这个问题，论文提出了  (自编码变分贝叶斯)算法，采用  近似  同时把最大化似然函数下界作为目标函数的方法，巧妙地避开了后验概率计算。

  2.2 数据集问题：一个大数据集：我们有大量的数据，批处理优化成本太高;我们希望使用小型的小批量甚至单个的数据点来进行参数更新。基于采样的解决方案，例如MC-EM，但是一般来说太慢了，因为它涉及到每个数据点的一个典型的昂贵的采样循环。

 

3 似然函数下界

对  中的一项  进行推导得到：

由于  恒成立，故  是似然函数对应  项的下界，可见该下界的计算不需要涉及后验概率  的计算，所以是可计算的，论文通过最大化该下界来进行参数的学习。

 

4 SGVB estimator(随机梯度变分贝叶斯 估计器)

由于  存在无法直接计算梯度的项比如  和  ，一般采用Monte Carlo方法进行计算： 

其中  ，所以可以得到可计算梯度的  ，其中 :

 

由前人研究发现，在使用Monte Carlo方法计算梯度时，应该尽量减少分布的方差，故论文中采取了参数重构技巧，即令  ，其中g为一个以  为参数的二元函数，以 对  进行采样得到  ，计算得到  ，这就是论文提出的SGVB estimator。论文还发现，当batch size足够大（=100）时，L=1即可。

 

5 VAE

当通过NN对AEVB中的概率进行建模时，便得到VAE模型，模型图如下：

VAE：左侧为不进行参数重构，右侧进行了参数重构

VAE：随机生成数据

 

模型反映了使用了如下形式的SGVB estimator：

模型假设  均满足高斯分布，当  时，第二项表示的是重构误差，故可以使用  来优化，同时计算可知 

通过SGD可以对参数进行优化。

 

 

6 实验结果

不同训练数据数据量：Wake-Sleep、MCEM、AEVB

不同隐向量维度：Wake-Sleep、AEVB

Mnist训练后，模型随机生成的数字

 

7 总结

虽然是一篇很早的论文，但其中涉及到多种技巧，包括概率近似、优化似然函数下界、Monte Carlo采样以及参数重构等，很值得学习。

针对paper的总结：生成模型是由z（潜在隐变量）到x的模型，但是在刻画该模型时会遇到后验概率intractable，所以引入了inference model生成  用来近似该后验概率分布  。

在第二章首先介绍了问题场景----变分下界函数----SGVB估计器和AEVB算法----重参数化技巧

    有了变分下界之后，则变成了关于变分参数和生成参数来对变分下界函数L()进行优化；而关于参数求梯度时，采用了MC算法，再将MC算法带入不同的变分下界函数得到不同的SGVB（A and B）估计器，这即是AEVB算法；原本不可导，但利用了重参数化技巧之后，根据MC就可以实现对推理部分（inference model）的参数进行求导。

    对于推理模型中的从x到z的采样概率，可以找到一个可微的变换g()和一个辅助变量eplison,再利用重参数化技巧，这样既实现了生成模型中的不可计算的后验概率的估计，并且在更新过程中还可导。

第三章介绍了自编码变分贝叶斯（AEVB）的特例----VAE