目标检测算法回顾之损失函数的发展

说明：本文仅供学习

简要概述

从任务上来看，目标检测的挑战是分类挑战与定位挑战的结合。对于两个挑战的优化，损失函数的发展可以由这个图来概括。不管是分类任务还是定位任务都可能面临样本分布不均匀，数据分布不一致等问题，因此，后面所提出的优化损失函数也包含对这些问题的改善。比如，Focal loss和DR loss，AP loss，Balanced L1 loss都解决了不平衡的问题。其中，Focal loss是通过减少模型对简单样本的权重，增加模型对困难样本的学习权重来提高模型对不均衡样本的学习。（一般来说，样本量多的类型，模型更容易学习到其相对应的特征，反之，相反）DR loss和AP loss则主要是将分类问题转化为排序问题，从而避免正负样本不均衡的问题。Balanced L1 loss解决的是定位上的平衡问题，主要是在找一个平衡的点，能让easy和hard的sample所占的梯度贡献差不多。KL loss前面也有很多同学在汇报中提到KL散度，也就是拉近两个分类之间的距离。这里由于时间问题，我就不细讲了。我们主要的关注点是在IOU loss上，这与后面讲的评价指标息息相关。

分类的损失函数

CE loss

Focal loss

AP loss

DR loss

定位的损失函数

smooth L1 loss

Balanced L1 loss

KL loss

IOU loss

IOU loss的具体介绍请见另外一篇博客：
目标检测算法回顾之IOU变体篇章