系统分析Hyperspectral Image Classification in the Presence of Noisy Labels

 最近一段时间阅读了一下Hyperspectral Image Classification in the Presence of Noisy Labels这篇文章，感觉文章给我的感觉就是很新颖，从题目可以看出，文章是针对label noise做出的一种改善，实际上在这之前，我只知道图像会有噪声，对于label，还是存了一种“盲从”的心理，从这篇文章也可以得到一点点启发，我们还是要对现有的事物抱有一种怀疑的态度的。好了，话不多说，我们来具体看一看文章吧。
对了，本篇文章提供了源代码，大家有兴趣的话可以看一下： https://github.com/junjun-jiang/RLPA

1、文章解决掉的问题

 本文想要解决的问题就是如何在标签存在噪声的情况下去除这些噪声，来得到更好地分类准确率。

2、前人的工作

 本文提到针对噪声，可分为两种：特征噪声和标签噪声。而之前人们的工作大多在解决特征噪声的问题，对于标签噪声大家的关注度较低；其次，在高光谱领域大家针对于标签噪声的工作就更少了。而作者通过实验向读者展示了在高光谱图像分类问题中，label noise的影响是很大的。

图一、标签噪声对分类的影响

 从上图我们可以看出，随着噪声的增加，我们的分类效果会下降得很快。所以在高光谱领域前人的工作是很少的，作者的工作也算是填补了这一空白。

3、本文提出的方法

 针对标签噪声之前的方法主要可分为两类：噪声忍耐和噪声清除。前者主要是设计一些噪声鲁棒性高的算法来忽略噪声的影响，而后者则是想办法清除掉原有的噪声。本文的方法是基于后者的思想来实现的。
 本文在介绍自己的方法的时候提出了两个概念:random label propagation algorithm(RLPS)随机标签传播算法、spectral-spatial probability transform matrix(SSPTM)光谱-空间概率转换矩阵。而本文的这个架构就是基于这两个概念的，具体流程如下图所示

图二、整体流程图

 从图中可以看出整个过程大致可分为两个部分，第一部分是光谱-空间概率转换矩阵的产生，首先对原始高光谱图像进行PCA降维，之后进行超像素分割，之后同时考虑光谱相似性和空间关联性，以此为依据生成概率转换矩阵。第二部分则是利用了随机标签传播算法，我们对noisy labels进行一个随机选择，选出的样本看做“干净”的标签，剩下的作为无标签样本，这时将所有带有“干净”标签的样本和无标签样本送入标签传播算法中，则无标签样本可以根据概率转换矩阵从“干净”标签样本中得到一个标签。我们多次对原始noisy labels进行随机选择之后，每个样本可得到多个标签，这时我们将出现次数最多的标签作为样本的标签。最后我们就可以得到干净的标签。
 这就是整篇文章的思路，听起来很简单，但其实存在两个难点，第一个就是概率转换矩阵的生成，第二个则是随机传播算法的传播原则。具体细节大家可以参考代码，我就不在这里讲一些细节了。

4、实验结果

 在实验方面，本文首先展示了随机传播算法对于降低标签噪声的作用

图三、随机传播算法的降噪效果

 上图展示了在三个数据集上随机传播算法去除噪声标签的效果，红线代表原本的噪声标签数，蓝线代表的是降噪后的噪声标签数，可以看出随机传播算法的降噪效果非常明显。
 之后作者又从定性和定量两个方面展示了在Indian Pines、University of Pavia、Salines三个数据集上的效果，可以归结为一句话，那就是本文的方法比目前的一些主流方法效果要好，我就不一一给大家展示了，实在是太占篇幅。最后呢有一个总的效果图可以给大家展示一下

图四、最终效果图

 上图展示的是在三个数据集上当噪声率为0.3时，使用ELM作为分类器的平均准确率，其中OA代表准确率，$\alpha$代表的是自身的标签信息和从随机传播算法得到的标签信息之间的平衡率，$\eta$代表的是在随机选择“干净”标签时，“干净”标签所占的比例。

5、读后感

 看完这篇文章其实还是带给了我一些想法的，这个“去噪”操作我认为它有很广的应用范围，可以加在各种网络架构之前，也算是一种可对目前的一些方法有所改善的创新点，所以大家如果有时间可以读一下。希望我这次的解读能给大家带来一点收获，也欢迎大家多提意见。谢谢阅读~