生成式对抗网络——Gan(二)

生成式对抗网络——Gan(二)

今日知图

选中文本(可视模式)

v 可视模式 从光标位置开始按照正常模式选择文本
V 可视行模式 选中光标经过的完整行
ctrl+v 可视块模式 垂直方向选中文本
ggvG 选中所有内容

0.说在前面1.回顾及进阶2.生成器和判别器到底是什么?3.作者的话


0.说在前面

继续上一篇文章,也就是大家所看到的的本篇文章,下面是作者介绍!

川大本科软件工程刘瑞航,LeoLRH,研究方向,遥感图像相关融合,现在的目的就是尽量保研,Never to be the low, fight for the best!

本篇所有归属权为该作者所有!下面一起来看优秀本科生对生成对抗网络的学习!

1.回顾及进阶

在上一篇文章中我们提到了gan网络即对抗神经网络的基本思路和一些有趣的思想。

所以在这篇文章中我们理解一下Gan网络的一些模型的理解以至于数学问题。

本篇文章推导和理解纯属笔者自己所做,如有问题欢迎批评,若有引用一定要进行声明

其实笔者认为所有的神经网络的应用其实都是都是判别式模型。为什么这么说呢?

我们简单的说所有模型应用都是给定一个输入,训练产生一个label输出。从直接对一个图片的分类到句子生成(这也是一个分类问题,我们的label是在词空间中,我们会去逐个学习来产生多词label)

而在这里我们学习的Gan就是我们拓展开来,用神经网络来构建一个生成式模型。就是一个生成器和一个判别器

  • 而在一个GAN中,我们构建两个不同的神经网络。 第一个网络是传统的分类网络叫判别器。 我们会用判别器来判断图片是真实的(属于训练集)还是假的(不在训练集中)。

  • 另一个网络,叫做生成器,会把随机噪音作为输入,然后用一个神经网络通过它生成图片。生成器的目标就是为了骗过判别器,让判别器以为生成的图片是真的。

在数学中我们可以把这个想成是一个最小最大博弈(minimax game)(联想一下那个开山公式), 生成器 (GG)反复的想要糊弄判别器,而判别器 (DD)则要努力的正确区分真实还是假的。

2.生成器和判别器到底是什么?

说起来挺高大上的东西剖析其本质,他们仅仅不过是一个概念,他们都属于supervised learning的模型。他们有什么区别呢?

生成式对抗网络——Gan(二)_第1张图片

在我们研究模型时在做一个决策的过程中:求的是[f(x)=]P(Y|X)的概率;x是样本,y是label

先说判别模型,其实他就是很傻的“算”就是给了你x,给了你y让你训练(无脑计算)(用神经网络等)然后得到像“x出现,y是什么的效果“。

这里从x到y的过程其实就是通过我们学习的算法(感知积,决策树,LF,Regression等)来实现求出这样的f(x)

总结一下就是给一个x,出y,给一个x,就出y……这个就是判别模型

而生成器就比判别器要求的高一些,不仅仅要求出f(x),我们的目的还要建立确定出x与y的关系。什么关系呢?

我们看下面公式

生成式对抗网络——Gan(二)_第2张图片 概率联合分布定理

(概率联合定理)

当我们前面的不好求时,转换成联合概率时会好算一些(通过频率算法可以将这个P求出来)也就是生成模型要做的是将不好求的P和f,转换成两个比较好求的东西(就是建立其中x,y的关系)

这个就是这两个的区别(笔者认为最通俗的理解方式了)。

然后再具体说一说探究一下生成模型

生成模型其实实在对抗生成模型前就已经提出来了。我们这里使用的生成模型只不过是其中最直接的生成模型。(生成模型可是个“大家族”)

生成模型由这两方面组成:包括密度预测(给一大堆散点)和样本生成(给你一些乱七八糟的东西生成一个类似的东西)

生成式对抗网络——Gan(二)_第3张图片 生成模型的”玩法“

而这里我们为什么要着重学习生成模型呢?

我想这个应该是goodfellow已经替我回答的很明白了

生成式对抗网络——Gan(二)_第4张图片 Ian goodfellow的2018PPT 对抗生成网络陈述

下一节我会列出一个简单的gan网络实现,并且用数学的方式好好剖析一下生成模型那个的数学原理(极大似然估计),通过那个来帮助大家理解gan网络的那个开山的公式

生成式对抗网络——Gan(二)_第5张图片

3.作者的话

如果你觉得本文对您有帮助,欢迎订阅本公众号!

你可能感兴趣的:(生成式对抗网络——Gan(二))