生成模型之flow-based model

        本来想在上一篇博客Blow后面写的,因为他属于是flow-based model,但是我不知道在哪里修改上一篇博客·····

        目前主流的生成模型有三大类(我只用过后两类方法···)

生成模型之flow-based model_第1张图片

         首先是component by component 生成是序列的,不确定生成的顺序以及比较好使,VAE的训练目标只是优化lower bound,我们并不清楚lower bound与我们优化目标之间的差距到底有多少(下一节会介绍VAE),GAN的训练又很不稳定。所以李宏毅老师介绍了Flow-based model,其是一次生成整个图片,不慢,并且优化目标就是极大似然估计而不是下界,并且训练比较容易。

        对于生成任务,如下图所示,z是输入,假设是从一个标准分布中采样的到的,其经过G生成x,我们希望x是服从真实样本的分布(可能很不规则,很复杂),那么生成任务的优化目标是:

你可能感兴趣的:(NLP,生成模型,机器学习,深度学习,人工智能)