gan 总结 数据增强_一文看懂GAN演进图谱

GAN作为近几年深度学习的大坑以其优雅的理论和惊艳的效果而大火。本文简单总结串讲下GAN发展至今比较有代表性的模型以及其主要特点。

先放一张GAN家族主要模型的概要图有一个大致的概念。左边部分主要是改进模型解决实际的图片转换，文本转图像，生成图片，视频转换等实际问题；右边部分呢则是主要解决GAN框架本身存在的一些问题。

传统的生成模型最早要追溯到80年代的RBM，以及后来逐渐使用深度神经网络进行包装的AutoEncoder。然后就是现在称得上最火的生成模型GAN。

GAN

Ian Goodfellow 的原始 GAN 论文[2]肯定是必读之作。涉及了GAN框架、“非饱和”损失函数以及最优判别器的推导。

DCGAN

顾名思义，DCGAN[3]主要讨论CNN与GAN如何结合使用并给出了一系列建议。另外还讨论了GAN特征的可视化、潜在空间插值等问题。

ImprovedGAN

Ian Goodfellow等人[4]提供了诸多训练稳定GAN的建议，包括特征匹配、mini-batch识别、历史平均、单边标签平滑以及虚拟批标准化等技巧。讨论了GAN不稳定性的最佳假设。

PACGAN

PACGAN[5]讨论的是的如何分析model collapse，以及提出了PAC判别器的方法用于解决model collapse。思想其实就是将判别器的输入改成多个样本，这样判别器可以同时看到多个样本可以从一定程度上防止model collapse。

WGAN

WGAN[6]首先从理论上分析了原始GAN模型存在的训练不稳定、生成器和判别器的loss无法只是训练进程、生成样本缺乏多样性等问题，并通过改进算法流程针对性的给出了改进要点。

CycleGAN 

CycleGAN[7]讨论的是image2image的转换问题，提出了Cycle consistency loss来处理缺乏成对训练样本来做image2image的转换问题。Cycle Consistency Loss 背后的主要想法，图片A转化得到图片B，再从图片B转换得到图片A'，那么图片A和图片A'应该是图一张图片。

Vid2Vid

Vid2Vid[8]通过在生成器中加入光流约束，判别器中加入光流信息以及对前景和背景分别建模重点解决了视频转换过程中前后帧图像的不一致性问题。

PGGAN

PGGAN[9]创造性地提出了以一种渐进增大(Progressive growing)的方式训练GAN，利用逐渐增大的PGGAN网络实现了效果令人惊叹的生成图像。“Progressive Growing” 指的是先训练 4x4 的网络，然后训练 8x8，不断增大，最终达到 1024x1024。这既加快了训练速度，又大大稳定了训练速度，并且生成的图像质量非常高。

SeqGAN

SeqGAN[10]用对抗网络实现了离散序列数据的生成模型。解决了对抗生成网络难应用于nlp领域的问题，并且在文本生成任务上有优异表现。相比以往刻意用增强学习解决生成模型的训练不一样，在NLP上因为存在误差无法回进行梯度更新的问题，对抗生成网络的训练中只能用增强学习，所以模型结构显得如此的恰到好处。

StackGAN

StackGAN[11]是由文本生成图像，StackGAN模型与PGGAN工作的原理很像，StackGAN 首先输出分辨率为64×64 的图像，然后将其作为先验信息生成一个 256×256 分辨率的图像。

BigGAN

BigGAN[12]模型是基于 ImageNet 生成图像质量最高的模型之一。该模型很难在本地机器上实现，而且 有许多组件，如 Self-Attention、 Spectral Normalization 和带有投影鉴别器的 cGAN等。

StyleGAN 

StyleGAN[13]应该是截至目前最复杂的GAN模型，该模型借鉴了一种称为自适应实例标准化 (AdaIN) 的机制来控制潜在空间向量 z。虽然很难自己实现一个StyleGAN，但是它提供了很多有趣的想法。

参考文献

[1] Must-Read Papers on GANs/ 必读！生成对抗网络GAN论文TOP 10

[2] Generative Adversarial Networks

[3] Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks

[4] Improved Techniques for Training GANs

[5] PacGAN: The power of two samples in generative adversarial networks

[6] Wasserstein GAN

[7] Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks

[8] Video-to-Video Synthesis

[9] Progressive Growing of GANs for Improved Quality, Stability, and Variation

[10] SeqGAN: Sequence Generative Adversarial Nets with Policy Gradient

[11] StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks

[12] Large Scale GAN Training for High Fidelity Natural Image Synthesis

[13] A Style-Based Generator Architecture for Generative Adversarial Networks

作者 | 知乎：深度传送门

https://www.zhihu.com/people/yixiaonongfu/activities

版权声明

本文版权归《深度传送门》，转载请自行联系

历史文章推荐

• CCAI 2019 | 这是一封来自2019中国人工智能大会的邀约

• CVPR2019 |《胶囊网络(Capsule Networks)综述》，附93页PPT下载

• AiLearning:一个 GitHub万星的中文机器学习资源

• 深度学习中的数据增强方法总结

• Multi-task Learning(Review)多任务学习概述

• 医学图像处理与深度学习入门

• AI综述专栏 | 多模态机器学习综述

• 深度学习中不得不学的Graph Embedding方法

• 学习率和batchsize如何影响模型的性能？

• 旷视研究院新出8000点人脸关键点，堪比电影级表情捕捉

你正在看吗？?