主动学习文章_active learning by querying informative and representative examples

介绍下抽样偏差:


大部分的主动学习模型只考虑其中的一种,例如只考虑信息量大的,并没有考虑未标注数据的结构,例子的选择取决少量的已标注数据,所以会导致严重的抽样偏差,得到错误的结果。

1、通过委员会查询【17,6,10】

2、不确定性的抽样【13,12,18,2】

3、最优实验设计【9,20】


例如只考虑有代表性的,只考虑了未标注数据的聚类结构,实验结果很大程度上依赖于聚类的结果。那么在找到最优边界面的时候可能会要求查询相对大量的例子。

文献【14,7】


试着结合二者的例子:

【19】,考虑了聚类信息和未标注数据的分类边界,但是局限在于聚类效果表现很好的是在分类边界里面的数据,而在分类边界外面的数据则表现不佳。

【8】,在【14】的基础上,平衡了查询例子的不确定性和密度,但只是局部最优的效果。


在【11】中,信息量大的是基于标注数据的不确定性预测,而有代表性的是基于未标注数据的不确定性预测,把二者都考虑进去了。

【19,8,11】都只能得到局部最优的效果。

【11】衡量一个例子的代表性是通过它与剩下未标注数据的详细性

本文则是考虑了未标注数据的聚类结果和标注数据的分类结果。


例子:




你可能感兴趣的:(主动学习文章_active learning by querying informative and representative examples)