自监督学习、半监督学习、弱监督学习

一、自监督学习

总结来说:就算利用没有标签的数据,训练模型的提取特征的能力,相当于对模型进行预训练,详细解释可以参考文章:自监督学习

二、弱监督学习

1、三种类别:不完全监督(Incomplete supervision),不确切监督(Inexact supervision),不精确监督(Inaccurate supervision)

不完全监督是指,训练数据中只有一部分数据被给了标签,有一些数据是没有标签的。

不确切监督是指,训练数据只给出了粗粒度标签。我们可以把输入想象成一个包,这个包里面有一些示例,我们只知道这个包的标签,Y或N,但是我们不知道每个示例的标签。

不精确监督是指,给出的标签不总是正确的,比如本来应该是Y的标签被错误标记成了N。

我们还是用最简单的西瓜的例子来直观理解一下这三者的区别。

自监督学习、半监督学习、弱监督学习_第1张图片

最左边是不完全监督,即我们可以看到有一些西瓜有标签,而有一些西瓜没有标签,标注并不完全。

中间的是不确切监督。对于这种情况,我们可以把这个想象成一个包,只知道这里面有西瓜,但是不知道西瓜在哪个位置,也不知道有几个,这种情况叫不确切监督。

最右边的是不精确监督。即假设我们有一些西瓜,但是有一些被错误标注为菠萝,那我们称之为不精确监督。

我们将分别对待这些类型的弱监督学习,但值得一提的是,在实际操作中,它们经常同时发生。

 

2、解决办法

方法的细节可以参考文章:浅谈弱监督学习

(1)对于不完全监督:可以使用主动学习和半监督学习

(2)对于不确切监督,我们可以考虑多示例学习。

(3)对于不精确监督,我们考虑带噪学习。

参考文献及链接

1、自监督学习(Self-supervised Learning)_乐乐lelele的博客-CSDN博客_自监督学习

2、浅谈弱监督学习(Weakly Supervised Learning) - 知乎

你可能感兴趣的:(深度学习,人工智能)