学习笔记——半监督学习

SGAN介绍

传统的机器学习分为监督式学习和无监督式学习。前者的数据是有标签的，后者的数据是无标签的,然而，在很多问题中，有标签的数据是非常少的，要想获得有标签的数据，需要人工标注等一些操作。而无标签的数据则比较容易获得。半监督学习就是要结合监督式和无监督式，利用少量标签数据与大量无标签数据进行训练，然后，实现对未标签数据进行分类。

在生成对抗网络中，真实数据可以被看做有标签数据集，生成器随机产生的数据则可以被看做是无标签数据集。在深度卷积生成对抗网络DCGAN中，使用生成模型特征提取后的判别器已经可以实现分类的效果。首先，由判别器D学习到的特征可以提升分类器C的效果。那么一个好的分类器也可以优化判别器的最终效果。而C和D是无法同时训练的。然后C和D是可以相互促进提升的。而提升了判别器的能力。生成器G的效果也会随之变得更好，三者会在一个交替过程中趋向一个理想的平衡点。

因次，提出了一个半监督式GAN，称之为SGAN。希望能够同时训练生成器与半监督式分类器，最终实现一个更优的半监督式分类器，以及一个成像更高的生成模型。在传统的二分类模式基础上，SGAN变成了多分类，类型数量为N+1。分别指代N个标签和一个“假”数据。在实际过程中，判别器和分类器是一体的，记作D/C。共同与生成器G形成一个博弈关系。目标函数为负向最大似然估计（NLL）。下面为伪代码：