监督、自监督、半监督、无监督学习的区别

目录

一、简易版区别

二、详细版区别

---

一、简易版区别

A Survey on Semi-, Self-and Unsupervised Learning for Image Classification 文中的解释：

监督学习（a）：给出全部样本红蓝两类的标签

半监督学习（b）：给出部分标签

无监督（c）：完全无标签

自监督（d）：在无标签数据上通过pretext task学习representation（之后在下游任务的有标签数据上fine-tune representation）

原文链接

二、详细版区别

监督学习利用大量的标注数据来训练模型，模型的预测和数据的真实标签产生损失后进行反向传播，通过不断的学习，最终可以获得识别新样本的能力。

无监督学习不依赖任何标签值，通过对数据内在特征的挖掘，找到样本间的关系，比如聚类相关的任务。

和无监督学习不同，自监督学习主要是利用辅助任务（pretext）从大规模的无监督数据中挖掘自身的监督信息，通过这种构造的监督信息对网络进行训练，从而可以学习到对下游任务有价值的表征。换句话说自监督学习的监督信息不是人工标注的，而是算法在大规模无监督数据中自动构造监督信息，来进行监督学习或训练。

原文链接