RetinaNet详细解读

网络名称	RetinaNet
发表时间	2018年1月
作者	Tsung-Yi Lin, Priya Goyal, Ross Girshick, Kaiming He, and Piotr Dollar
机构	Facebook AI Research (FAIR)
领域	目标检测（object detection）
简介	使用Focal Loss解决样本不均衡问题，让one-stage网络达到two-stage的精度。

简介

针对one stage网络中类别不均衡问题，本文作者提出一种新的损失函数：Focal Loss，这个损失函数是在标准交叉熵损失基础上修改得到的。这个函数可以通过减少易分类样本的权重，使得模型在训练时更专注于稀疏的难分类的样本；防止大量易分类负样本在训练中压垮检测器。为了证明focal loss的有效性，作者设计了一个dense detector：RetinaNet，并且在训练时采用focal loss训练。实验证明RetinaNet不仅可以达到one-stage detector的速度，也能超过现有two-stage detector的准确率。

背景

Object detection算法主要可以分为两大类：two-stage detector和one-stage detector。前者是指类似Faster RCNN，RFCN这样需要region proposal的检测算法，这类算法可以达到很高的准确率，但是速度较慢。虽然可以通过减少proposal的数量或降低输入图像的分辨率等方式达到提速，但是速度并没有质的提升。后者是指类似YOLO，SSD这样不需要region proposal，直接回归的检测算法，这类算法速度很快，但是准确率不如前者。研究发现正负样本极不均衡是主要原因。

Focal Loss

对于二分类问题交叉熵函数如下所示：

$$CE=-ylog(p)-(1-y)log(1-p)(1)$$

式子中$y$代表ground truth真实值标签，$p$代表预测结果为正的概率。

可以改写为

$$p_t=\{\begin{array}{ll}p& ify=1\\ 1-p& otherwise.\end{array}(2)$$

$$CE(p,y)=CE(p_t)=-log(p_t)(3)$$

对于交叉熵函数来说，正例和反例对于loss的贡献是对称平衡的，而在目标检测任务中，有大量的反例（背景像素），尽管每一个像素的准确率都很高，但是由于反例较多，导致整体的loss较高。举个例子，假设背景的预测的概率都为0.1，前景预测的出的概率都为0.9，而背景像素点数量与前景数量比为100：1，那么整体的loss为 -100 * log(1-0.1) - 1 * log(0.9)，那么对于loss来说背景贡献了100/101的loss，所以该网络模型会更加注重背景的预测准确，而忽略了前景的情况。Focal Loss则是将那些容易被看出是前景或者背景的例子不做loss的贡献，而关心相对不准的样例。

而Focal Loss公式如下：

$$FL=-(1-p_t{)}^{\gamma }log(p_t)(4)$$

其中$\gamma$称为聚焦参数，越大代表易分类样本的权重越低，实验发现$\gamma =2$效果最好。

图1 不同条件因子下Focal Loss曲线
直观的，调节因子降低易分类样本的权重，并扩展的样本低损失值的区间。

例如：$\gamma =2$下，如果易分类样本的$p_t$比CE的损失函数值小100倍,如果$p_t\approx 0.968$则小1000倍。这种操作反向增加了纠正错分类样本的重要性。

同时在最后，Focal Loss增加了使用一个$\alpha$平衡变量。因为这种形式可以轻微的提升精确性。最终，在损失函数层组合sigmoid操作计算$p_t$,获取更好的数值稳定性。最终Focal Loss公式如下：

$$FL=-{\alpha }^t(1-p_t{)}^{\gamma }log(p_t)(4)$$

在论文中作者指出Focal Loss可以有很多种变形新式，只要目的是为了平滑较低易识别样本的贡献的loss函数都可以达到不错的精度，所以公式的具体形式不是重点，重点是具体的思想。

RetinaNet

图2 RetinaNet网络结构

• ResNet+FPN：提取图片特征
• Anchor：边框搜索
• Class subnet (Focal Loss)：预测类别
• Box subnet：预测边框坐标和大小

性能结果

图3 COCO测试集性能结果对比1

图4 COCO测试集性能结果对比2

图5 Focal Loss实验性能对比

扩展

论文地址：https://arxiv.org/pdf/1708.02002.pdf

开源代码：https://github.com/yhenon/pytorch-retinanet

样本不平衡问题：https://zhuanlan.zhihu.com/p/59910080