李宏毅： improved generative adversarial network（GAN）

1、generation

从normal distribution（正态分布）中sample出一些点：

generator需要update它的参数，使得它output产生的image能被discriminator误认为它是realistic。

再update discriminator，使得之前被它判断出来是realistic的image重新判断为fake。

不断更新，直到generator产生出的image够好为止。

2、algorithm

3、f-divergence

convex function是指凸函数

（1）KL-divergence

（2）Reverse KL divergence

（3）Chi Square

4、Fenchel Conjugate（Fenchel 共轭）

（1）

给定t，找到不同x下的f*(t)的最大值

先给定x，得到不同的直线，再给定t，找到式子的最大值。不断取不同的t，就会得到不同的f*，下图所示的红色实线就是f*(t)，是一个convex。

如下图：f(x) = xlogx，则画出来的f*(t)有点像指数（expoential）函数。

（2）connection with GAN

5、double loop vs single step

6、WGAN

（1）earth mover's distance

想把P的distribution移成Q的distribution，会有很多不一样的方法，所以你的distance也不一样。选移动距离最小的。

每一个row之和，为P要运送出去的量，颜色越亮，量越多。

如果用JS divergence，会发现PG50并没有比PG0更接近Pdata。但如果用earth mover's distance就会不一样。这样你在做gradient的时候会有梯度下降。

右边绿色的那根线，从PG到Pdata才会有梯度下降，就不会有gradient vanish的问题。

如何optimize？

weight clipping

你的weight是有range的，所以你input变化的时候，你的output变化总是有限的。如果你的K是一个够大的值，那你的neural network就会满足k-lipschitz function。

WGAN：用RMSprop好还是用adam效果好是不一定的。

（2）improve WGAN

gradient penalty

这里的gradient descent是input对output的descent（这里是input x 对 output D(x)的gradient descent），与从前是对neural network 的参数进行gradient descent不同。

。

什么是Ppenalty：

如何从Ppenalty中sample点：

先从Pdata中sample一个点，在从generator中sample一个点 ，再把这两个点连起来。在他们的连线中间再sample一个点，就是你得到的x。不断sample。。。

为什么这样的结果是好的呢：

其实你希望gradient越接近1越好。

（3）sentence generation

但是你用neural network产生一个matrix的时候，很难固定只有0和1。对于binary classifier来说，你的discriminator只要认为这个地方不是1或者不是0（没有重叠部分no overlap），就会认为是假的。WGAN就可以派上用场。

7、transform

1）sentence to image

conditional GAN中，如何train discriminator：

方法一：可以用WGAN来train 你的discriminator，input一个image，output distribution。结果：可能会得到清晰，但与输入内容无关的image。

方法二：input 的是两个东西，是generator的input和output。看他们两个合在一起好不好。比如你输入一个c为单词“train”，x为火车的image，output的值越大越好。negative example：①c为“train”，但x不为火车的image；②c不为“train”，但x为火车的image。他们output的值要越小越好。结果比较好。

2）image to image

方法一：用传统的有监督的方法，train出来的图片可能是糊的。

3）unpaired transformation --cycle GAN  disco GAN

之前都是paired数据，比如说一段话及对应的image，一个简单的几何图及对应真实的image。。。这里用unpaired，有点类似风格迁移。把一幅一般的风景画转换为梵高式的image。

① cycle GAN

②真实的人物image转化为动漫