李宏毅2020ML——P22 semi-supervised半监督学习

introduce

简单介绍：

为什么半监督学习会有效果呢？

Semi-supervised Learning for Generative Model

生成模型的半监督学习

监督生成模型：

半监督生成模型：

具体做法步骤：

那为什么要这样去做呢？：

Low-density Separation Assumption

接下来介绍一种新的方法，它基于的假设是Low-density separation：

最具代表的方法——self-training：

hard label 对比 soft label：

进阶版：

semi-supervised SVM：

但是问题是，如果数据很大，非常难穷举所有的可能，上面的paper中又提出一个方法：最开始先得到一些label，然后每次改一笔unlabelled data的label，看看可不可以让objective function变大，如果可以变大就去改变该label

Smoothness Assumption

另外一种方法

基本思想是：近朱者赤，近墨者黑

思想：

具体举例：

一种方法——cluster and then label：

引入图结构：

具体步骤：

基本精神：

定量使用graph：

简化：

Better Representation

Better Representation的精神是，去芜存菁，化繁为简