原GAN(DCGAN)缺陷

GAN 的家族【知多少】_哔哩哔哩_bilibili

一、模式崩塌

吴恩达视频讲解(模式崩塌)icon-default.png?t=M85Bhttps://www.bilibili.com/video/BV1b54y1k7bY?p=21&vd_source=94535b6b027640ec6971cbbb50b4bb1f

解决方法:

1、当发现G生成图像与上一次相似时,给G一个惩罚(Improved Techniques for Training Gans)

2、使用条件GAN(CGAN)

二、梯度消失

吴恩达视频讲解(梯度消失)icon-default.png?t=M85Bhttps://www.bilibili.com/video/BV1b54y1k7bY?p=22&vd_source=94535b6b027640ec6971cbbb50b4bb1f

由于使用的损失函数的原因,当模型训练到一定程度之后loss过小(过大)导致梯度消失,无法更新。

解决方式:

1、使用其他损失函数(LS-GAN、WGAN、WGAN_G(推荐)

2、使用特征匹配

三、过生成(另一种模式崩塌)

生成奇奇怪怪的照片,但判别器仍吧他当作真实图片

原GAN(DCGAN)缺陷_第1张图片

四、G与D的协调

原始的GAN的G与D使用在其他任务时需要重新调整G与D的训练比例,保持G与D能循序渐进的共同训练,不然就会出现梯度消失或者爆炸导致无法对抗训练。

你可能感兴趣的:(GAN,深度学习,人工智能,机器学习)