李毅宏 【GAN 课程笔记 3： F-GAN】

本系列是自己看完李毅宏老师的GAN系列教程后整理的笔记，有错误的地方请指正。

• 视频地址：https://www.bilibili.com/video/av24011528
• 李老师主页：http://speech.ee.ntu.edu.tw/~tlkagk/talk.html

（具体f-gan在讲什么，看视频更容易理解吧......）

f-GAN: General Framework of GAN

本节主要讲不同的 divergance对GAN最终结果的影响。虽然实验结果显示不同的divergance对GAN的结果影响不大，但是从数学的角度上讲，这种研究还是非常有价值的。它能在某种程度上去理解GAN现存的几个问题。

Mode Collapse

在实践的时候，可能会老是预测出一些相似的图片。这些图片可能会有一些区别，但是看上去就是特别像。这就是GAN遇到的第一个问题：模型学习到的分布太“窄”。如下图所示：

image.png

Mode Dropping

而model dropping是说训练后的模型只会输出同一类“东西”，如下图，第t次迭代的时候输出一些白色人脸，而下一次迭代的时候会发现其输出结果除了肤色都没变，下下次也是一样。也就是说这个GAN只会输出这几张人脸，然后在次基础上调节肤色，这显然不是我们想要的。

image.png