干货!Kaggle座头鲸识别落下帷幕,冠军方案解读

点击我爱计算机视觉标星,更快获取CVML新技术


本文经机器之心(微信公众号:almosthuman2014)授权转载,禁止二次转载

机器之心专栏

作者:Earhian (乔健), YourVenn (王乙衡)

不久之前,Kaggle座头鲸识别挑战赛结束,Earhian(乔健) YourVenn(王乙衡)、Tom 57、A.L.四位选手组成的团队夺得了第一名。本文主要介绍了冠军团队的解决方案。

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第1张图片

图注:Kaggle座头鲸识别挑战赛 leaderboard

为了帮助鲸鱼保护,科学家们使用照片监视系统 (Photo Surveillance Systems) 来监视海洋活动。他们使用鲸鱼尾巴这一独一无二的标记来在连续的图像中识别鲸鱼,并对它们的活动进行细致地分析。在过去的四十年里,大部分工作基于科学家们的手工作业,这也使得大量的数据未被充分利用。

在这一竞赛中,我们是要构建算法来识别图像中的鲸鱼个体,而难点在于训练样本的严重不均衡以及存在近三分之一的无标注(new whale)数据。

1.概述

这是一个few shot learning和细粒度分类的问题。比赛初期,我们使用了softmax + 固定阈值的方法,仅对有标注的样本进行训练并通过阈值插入new whale的预测,但是没有取得很好的效果(MAP@5 < 0.9)。为了将new whale加入网络中训练,我们针对每一类鲸鱼进行二分类(如下图所示),并且使用triplet loss来做特征度量。通过大量实验,SE-resneXt154被作为最优的backbone,取得了单模型0.96的baseline,在追加了一系列tricks之后,单fold模型达到了0.969 (private LB: 0.97+ 榜上第三名)。最后,借助4 fold cross validation,以及类别平衡后处理,得到了最终public & private两榜第一名的0.973。

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第2张图片

2.网络输入

我们使用RGB + Mask的四信道输入(Mask来源于我们训练的分割模型,通过论坛中开源的450张标注数据训练即取得了很好的效果: MAP for local cross validation: 0.96+ )。

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第3张图片

3.鲸鱼水平翻转,并赋予新的id(+0.006~0.007)

论坛中,选手Heng CherKeng 提出“根据鲸鱼尾部不对称的特性(见下图),将其翻转可以得到新的类别”这一假设。这个假设没有得到很多的赞同票,但在我们的实验中取得了非常好的效果。赛后我们也获悉,第三名Pudae使用了同样的技巧亦提高了分数。

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第4张图片

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第5张图片

4. 伪标签(+0.002)

在模型得到public 0.96+的分数时,我们做了一次伪标签:将预测置信度为1的测试样本加入到训练集中。

5. 类间平衡(+0.001~0.002)

我们发现随着模型性能的提升,预测结果中top1对应的不同类别数也在增加(见下图)。所以我们用了以下策略:

假设五个预测为:class_1 class_2 class_3 class_4 class_5

如果1) class_1的置信度减去class_2的置信度 < 0.3, 2) 并且class_2没在top1中出现过,3) 而class_1在top2中多次出现,则交换class_1与class_2的位置。

干货!Kaggle座头鲸识别落下帷幕,冠军方案解读_第6张图片

最后,感谢队友们的努力:@Yiheng Wang, @Peiyuan Liao and @Thomas Tilli。感谢@ Heng CherKeng,祝贺3位新的Grandmaster!@SeuTao, @David, @Weimin Wang。

我们已经将方案代码进行了整理并开源:

  • https://github.com/earhian/Humpback-Whale-Identification-1st-

英文版本可从Kaggle论坛查看:

  • https://www.kaggle.com/c/humpback-whale-identification/discussion/82366

加入专业讨论群

关注计算机视觉与机器学习相关技术竞赛,欢迎加入52CV-竞赛交流群,扫码添加CV君拉你入群:

请务必注明:竞赛

喜欢在QQ交流的童鞋,可以加52CV官方QQ群:702781905。

(不会时时在线,如果没能及时通过验证还请见谅)


长按关注我爱计算机视觉

你可能感兴趣的:(干货!Kaggle座头鲸识别落下帷幕,冠军方案解读)