[Kaggle] NDSB1: Predict Ocean Health

这篇主要介绍Kaggle的第一届年度数据科学竞赛：Predict ocean health, one plankton at a time。关于Kaggle平台本身的相关内容，可以参考：[Kaggle] 数据建模分析与竞赛平台介绍。

Kaggle除了作为平台来帮助组织者们举办数据分析比赛之外，其本身从2014年开始每年也会和Booz Allen Hamilton（一家著名的咨询公司）举办一次年度的数据分析竞赛Annual Data Science Bowl，从名字上来看就有点类似Super Bowl的意味，所以说也相当于是数据科学的一大年度盛事吧。每次比赛从当年12月开始一直持续到第二年的3月份，总共三个月的时间。

第一届Assessing Ocean Health at a Massive Speed & Scale，要求搭建一个图像识别系统来处理由水下图像传感器收集的微观高像素照片，以分析海水中浮游生物的种类和数量；第二届Transforming How We Diagnose Heart Disease，要求搭建一个系统，通过处理超过1000个患者的心脏核磁共振成像(MRI)来估计患者的舒张压和收缩压，以此来帮助诊断心脏病。

Data Science Bowl

这里介绍的是第一届比赛的相关内容。

Task Description

---

Predict ocean health, one plankton at a time

海洋中有许许多多的浮游生物，他们的数量可以很好的反映出海洋生态系统甚至整个生物圈的健康状况（是的我就是把上面这张富有深意的图毫无信息量的概括了出来）。然而，传统的浮游生物监测和估计的方法是非常费时的，而且难以扩展到大规模的环境中（这就是Kaggle为什么要举办这个比赛来找到更好的方法）。

有一种很好的改进方法是使用水下图像传感器（underwater imagery sensor，应该就是类似水下照相机之类的东西）来收集大量的微观、高像素的图片，借此来分析浮游生物的情况。然而这个大量高清图片的分析过程如果人工来做的话就太了，因此要用机器学习的方法来自动对图像进行分类……

是的！这是一个分类问题！前面虽然描述了那么多浮游生物的事，最后看了Datasets你就会发现其实这就是个大规模的图像分类问题。

Datasets

---

NDSB1提供的数据集可以在这里下载（相比起NDSB2要小得多）。
由俄勒冈州立大学的Hatfield Marine Science Center提供的数据集包含了在18天内收集的5000万张浮游生物图像（超过800TB）。其中有大约30,000张的labeled图像作为训练集，训练集每条记录都是将原始图像自动切分出的值得关注的部分（也就是浮游生物在的地方），因此相比之下都要小一些，每条记录只包含一个“实体”。

数据集里的浮游生物们

处理数据集的难点主要体现在以下几个方面：

• 生物的种类太多，从小到大什么都有
• 对于一种生物来说，拍摄图像的角度是任意的
• 海洋中有太多没办法识别成某种生物的碎屑和排泄物，然而这些“杂质”在其他的海洋分析中是很重要的
• 有些图像太模糊不清，即使是专家也很难对其labeling，因此数据集中肯定有一些“噪声”
• 由于分类还有所谓的“unknown"类别，因此需要对不能区分的东西进行特别处理

训练集中已经由专家按照类别将图片放到了不同的文件夹下，为了更好的理解类别之间的联系还提供了一份类似关系图的介绍：

Plankton Relationships

测试集中为了打消人工标注的念头，Kaggle往里面添加了"ignored"的图片，在最后的评分中不会计算在内。

Evaluation Metrics

---

NDSB1使用multi-class logarithmic loss作为评价标准，公式为：
![][1]
[1]: http://latex.codecogs.com/svg.latex?logloss=-\frac{1}{N}\sum_{i=1}^N\sum_{j=1}My_{ij}\log(p_{ij}),

其中N是待分类图片总数；M是类别总数；y表示的是对于第i张图片，其是否属于第j个类别，是则y=1，否则y＝0；p表示的是参赛者对第i张图片属于第j个类别的预测概率。这种评价方式首先会对错误分类给出相应的惩罚；同时使用取对数再求和的方式可以把连乘运算变为连加运算，避免连乘运算带来的数值过小无法计算的问题。

MXnet Sample Solutions

---

既然是图像分类问题，MXnet已经有非常完整的支持，其方法基本上就是遵循了图像分类问题的套路。首先将数据集进行一些压缩、切割的预处理；然后将数据集加载到MXnet中；接着定义NDSB1的训练网络；最后调用MXnet提供的接口进行训练即可。

A Little Thoughts

---

按照MXnet提供的example做下来得到的结果，虽然据其所说只能排到325名左右（也不是最终的排名），但由于这个样例应该只是为了展示MXnet能够非常方便的处理图像分类问题，并没有进行什么调优，也基本上没有用到domain相关的知识（比如之前提到的浮游生物之间的关系图），因此如果是真正为了比赛来做的话应该还有相当大的提升空间。

另外，Kaggle官方还提供了一个基于随机森林分类的教程，如果有兴趣可以参看。