李宏毅机器学习2016 第十六讲 生成对抗网络 GAN

视频链接:李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩

课程资源:Hung-yi Lee

课程相关PPT已经打包命名好了:链接:pan.baidu.com/s/1c3Jyh6 密码:77u5


我的第十五讲笔记:李宏毅机器学习2016 第十五讲 无监督学习 生成模型之 VAE


Generative Adversarial Network


本章主要讲述了生成对抗网络的原理及作用。


生成对抗网络由Goodfellow在2014年提出。GAN由生成器和判别器组成。生成器的功能是输入一个样本将其输出成一个逼真的样子,判别器来判断输入的样本是真的还是伪造的。

李宏毅机器学习2016 第十六讲 生成对抗网络 GAN_第1张图片

判别网络的目的:就是能判别出来属于的一张图它是来自真实样本集还是假样本集。例如输入的是真样本,网络输出就接近1,输出的是假样本,网络输出接近0。

判别器

李宏毅机器学习2016 第十六讲 生成对抗网络 GAN_第2张图片

生成网络的目的:生成网络是造样本,它的目的就是使得自己造样本的能力尽可能强,强到什么程度呢,判别网络没法判断我是真样本还是假样本。

生成器

李宏毅机器学习2016 第十六讲 生成对抗网络 GAN_第3张图片


GAN的优化是一个极小极大博弈问题,最终的目的是生成器(generator)的输出给判别器(discriminator)时很难判断是真实的还是伪造的。

李宏毅机器学习2016 第十六讲 生成对抗网络 GAN_第4张图片

GAN强大之处在于可以自动的学习原始真实样本集的数据分布

传统机器学习方法,会定义一个什么模型让数据去学习,假设我们知道原始数据属于高斯分布,只是不知道高斯分布的参数,这个时候我们会定义高斯分布,然后利用数据去学习高斯分布的参数得到最终的模型。 然而从随机噪声到人脸应该服从什么分布,我们不知道,然而GAN机制可以学习到,也就是说GAN学习到了真实样本集的数据分布。

GAN强大之处在于可以自动的定义潜在损失函数

判别网络可以自动学习到一个好的判别方法,其实就是等效的理解为可以学习到好的损失函数,来比较好或者不好的判别出来结果。虽然大的loss函数还是人为定义的,基本上对于多数GAN也都这么定义就可以来,但是判别网络潜在学习到的损失函数隐藏在网络之中,不同的问题这个函数就不一样,所以说可以自动学习这个潜在的损失函数。


GAN在实践上的问题。

李宏毅机器学习2016 第十六讲 生成对抗网络 GAN_第5张图片

你可能感兴趣的:(机器学习_Hungyi,Lee,2016,机器学习Hung-yi,Lee,2016,机器学习,生成对抗网络,GAN,李宏毅)