（十五）论文阅读 | 目标检测之DR Loss

---

简介

图1：论文原文

论文是发表在$\mathrm{C}\mathrm{V}\mathrm{P}\mathrm{R}2020$上的一篇关于提高目标检测模型的性能的方法。同$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$中的$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$一样，论文关注的点是一阶段目标检测算法中正负样本极不均衡的问题，提出一种新的损失函数，$\mathrm{D}\mathrm{R}$$\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$。
论文原文 源码

在介绍下一部分前，首先简要介绍$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$中提出的$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$。$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$一文指出，制约一阶段目标检测模型性能的部分集中在训练过程中正负样本的极不均衡。由于一阶段算法是直接回归目标类别及其边界框，没有两阶段算法中的过滤调优过程，加上一幅图像中目标可能仅占很小一部分区域，这就造成了前景候选框和背景候选框的数量极不均衡，从而降低了模型的学习能力。基于此，作者基于交叉熵损失函数提出了$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$，它的大致思路是降低易分类样本的损失权重而让模型集中训练难分样本。
首先介绍交叉熵损失函数，交叉熵损失函数一般应用于单分类学习任务中，即图像中的目标仅属于一个类别。它通常跟在$\mathrm{S}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}$或$\mathrm{S}\mathrm{i}\mathrm{g}\mathrm{m}\mathrm{o}\mathrm{i}\mathrm{d}$之后，以其计算结果作为输入。这里直接给出二分类任务中交叉熵损失函数的数学形式（多分类的情况类似，只是加上一个用于标识不同类别的标签）：$$L_{CE}=\frac{1}{N}\sum _i-[y_i\cdot log(p_i)+(1-y_i)\cdot log(1-p_i)]\text{\hspace{1em}(1)}$$

式子中的$N$表示图像中目标的数量，$y$表示样本标签（正为$1$、负为$0$），$p$表示模型预测为正的概率。对上式的直观解释是：当样本为正，即$y=1$时，损失函数可简化为$L=-log(p)$，当模型预测为正的概率$p$越大，则$L$越小；当样本为负时情况亦是如此。

多分类任务中交叉熵损失函数的数学形式：$$L_{CE}=\frac{1}{N}\sum _i-\sum _c{y}_{ic}\cdot log(p_{ic})\text{\hspace{1em}(2)}$$

由上可知，交叉熵损失函数仅关注正类的预测概率，只要其值足够大，就可以确保结果正确。再回到正负样本不均衡的问题，由于负样本远多于正样本，则模型更倾向于预测样本为负类且置信度较大，即这部分样本为易分样本。如果持续下去，势必会造成模型训练的不平衡。一种常用的解决方法是降低这部分样本的损失权重，而增大难分的正类样本的权重。
首先定义带权二分类交叉熵损失函数，其作用是调节正负样本的比例，数学形式为：$$L_{CE}=\frac{1}{N}\sum _i-[{\alpha }_1\cdot y_i\cdot log(p_i)+{\alpha }_2\cdot (1-y_i)\cdot log(1-p_i)]\text{\hspace{1em}(3)}$$

上式中$\alpha$是一个$0$到$1$之间的数，其解释为调节正负样本的比例。在论文的二分类交叉熵损失函数讨论中，对于前景样本$\alpha$取值为背景的概率（因为背景存在的概率远大于前景）、背景样本$\alpha$取值为前景的概率，以此达到调节正负样本数的目的。并且$\alpha$的取值依赖于$p$值，定义为$\alpha =1-p$。而由于多分类中只考虑正样本，则乘以$\alpha$相当于只是减小了计算的损失值，并没有起到调节正负样本比例的作用。所以，多分类中一般不使用$\alpha$值。

接下来，为了使模型更倾向于选择难分样本用以训练，这里再为每个损失部分添加一个系数。无论对于正类还是负类，当预测概率$p$越大，则$(1-p)$越小，则乘上此系数就减弱了易分样本的损失。而因为大量易分样本来自于负类样本，所以乘以该项也可以在一定程度上调节正负样本的占比。则最终二分类任务中$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$损失函数的数学形式为：$$L_{FL}=\frac{1}{N}\sum _i-[{\alpha }_1\cdot y_i\cdot (1-p_i{)}^{\gamma }\cdot log(p_i)+{\alpha }_2\cdot (1-y_i)\cdot (1-p_i{)}^{\gamma }\cdot log(1-p_i)]\text{\hspace{1em}(4)}$$

上式中的$\gamma$为大于$1$超参数，用于调节$(1-p)$系数的权重。

这里论文中简化写为$$\mathrm{F}\mathrm{L}(p_t)=-{\alpha }_t(1-p_t{)}^{\gamma }\mathrm{l}\mathrm{o}\mathrm{g}(p_t)\text{\hspace{1em}(5)}$$

最后给出$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$同其他目标检测算法的对比：

图2：RetinaNet的实验结果对比

---

0. Abstract

摘要部分指出一阶段检测算法模型的性能受限于训练过程中正负样本不均衡。针对此问题，论文提出一种新的损失函数，$\mathrm{D}\mathrm{i}\mathrm{s}\mathrm{t}\mathrm{r}\mathrm{i}\mathrm{b}\mathrm{u}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}\mathrm{a}\mathrm{l}\mathrm{R}\mathrm{a}\mathrm{n}\mathrm{k}\mathrm{i}\mathrm{n}\mathrm{g}(\mathrm{D}\mathrm{R})\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$。它的大致思路是：首先将分类问题转化为置信度排序问题，每次考虑图像中的样本对（包含一个正样本和一个负样本），以此解决不平衡问题；然后根据前景框和背景框的置信度作决策；最后对样本置信度分布进行优化。（后面会有详细介绍）该方法不仅解决了候选框中的不平衡问题，还提高了排序算法的效率。实验结果为，在$\mathrm{M}\mathrm{S}\mathrm{C}\mathrm{O}\mathrm{C}\mathrm{O}$数据集上，单纯地将$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$中的$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$替换为$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$，$\mathrm{A}\mathrm{P}$从$39.1\%$提升至$41.7\%$。
论文贡献：（一）提出新的目标检测模型中新的分类损失，$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$；（二）该方法具有较强的理论证明，且实验证明能够很好地提高模型性能。

---

1. Introduction

引言部分首先介绍了两阶段检测算法和一阶段算法的工作流程，并提出一阶段算法存在以下不平衡性：前景和背景候选框的数量不平衡；背景框本身存在的不平衡，即大多数背景框易于从前景中分离出来但其中只有少数难以分类，这体现了背景框的分布不均衡。
为了解决不平衡问题，$\mathrm{S}\mathrm{S}\mathrm{D}$采取的是难例负样本挖掘（$\mathrm{H}\mathrm{N}\mathrm{M}$），即按照损失将负样本排序，选择损失值较大的负样本而丢弃容易分类的负样本，保持正负样本比例约为$1:3$，以此平衡正负样本的数量。但这种方法可能会丢掉某些重要的背景信息。$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$保留了所有的背景框，而采取给不同候选框的损失赋予不同权重的方法。论文指出，$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$通过启发式地赋予损失函数权重并没有有效解决不平衡性问题。同时指出，$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$是针对一幅图像中的单个候选框，没有将一幅图像看作整体，可能会得到次优解。
论文提出一种依赖于图像的排序损失函数，以处理不平衡问题。首先，为了解决类内（候选框数量）不平衡问题，将分类问题转化为一个排序问题。将一个背景框和一个前景框作为排序对，以此解决类间不平衡问题。其次，针对类间（识别难度）不平衡问题，使用$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$对前景框和背景框的置信度分布优化。如下图：

图3：DR Loss

在子图$(1)$中是候选框的原始分布；为了平衡候选框的数量，对候选框的置信度排序，并每次采样样本对（包含一个正样本和一个负样本）；子图$(2)$表示对原始分布进行调整；子图$(3)$表示引入间隔后对原始分布排序。

---

2. Related Work

相关工作部分首先介绍了两阶段检测算法和一阶段检测算法，同时指出一阶段算法中存在的不平衡问题。最后介绍解决不平衡问题所采取的方法，如$\mathrm{H}\mathrm{N}\mathrm{M}$、$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$、$\mathrm{A}\mathrm{P}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$等。

---

3. DR Loss

给定一系列候选框，模型首先将前景框分类出来。首先是针对分类器$\theta$的定义：$$\underset{\theta }{\min }\sum _i^N\sum _{j,k}l(p_{i,j,k})\text{\hspace{1em}(3.1)}$$

其中$N$表示图的数量，$p_{i,j,k}$表示第$i$幅图中第$j$个候选框属于第$k$类的概率，$l(\cdot )$表示交叉熵损失函数。

针对类内不平衡的问题，上述等式可以改写为：$$\underset{\theta }{\min }\sum _i^N(\sum _{j_{+}}^{n_{+}}l(p_{i,j_{+}})+\sum _{j_{-}}^{n_{-}}l(p_{i,j_{-}}))\text{\hspace{1em}(3.2)}$$

其中$j_{+}$和$j_{-}$分别表示正样本、负样本，$n_{+}$和$n_{-}$表示相应样本的数量。

当$n_{-}\gg n_{+}$时，总的损失函数以后部分为主。一种常用的解决方法是增大正类样本部分的损失权重，论文提出了另一种解决办法：

3.1 Ranking

为了缓解类内不平衡的问题，考虑将正负样本的排序优化。对于任意一对样本（一个正样本、一个负样本），一个理想的模型是正样本的置信度大于负样本的置信度，即满足：$$\forall j_{+},j_{-}{p}_{j_{+}}-p_{j_{-}}\ge \gamma$$

其中$\gamma$是一个非负常数，表示间隔（$\mathrm{m}\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{i}\mathrm{n}$）常数。

这样，排序模型很好地优化了单个正负样本（一对样本）的关系。则单幅图像的排序问题写为：$$\underset{\theta }{\min }\sum _{j_{+}}^{n_{+}}\sum _{j_{-}}^{n_{-}}l(p_{j_{-}}-p_{j_{+}}+\gamma )\text{\hspace{1em}(3.3)}$$

上述等式的含义是：保证所有样本对的损失最小，即样本对排序正确。

其中损失函数定义为折页损失的变种：
$$l_{hinge}(z)=[z{]}_{+}=\{\begin{array}{ll}z& z＞0\\ 0& o.w.\end{array}\text{\hspace{1em}(3.4)}$$

折页损失函数可用于”最大间隔分类“，其中最常用为作为$\mathrm{S}\mathrm{V}\mathrm{M}$的损失函数。原折页损失函数数学表达式为$$l_{hinge}(y)=max(0,1-\hat{y}y)\text{\hspace{1em}(3.5)}$$

其中$\hat{y}$表示预测的软结果，$y$表示正确的类别。则式$(3.3)$中对应的损失函数表达式为：$$l_{hinge}(z)=max(0,p_{j_{-}}-p_{j_{+}}+\gamma )\text{\hspace{1em}(3.6)}$$上式的含义是我们希望正样本分数越高越好、负样本分数越低越好，但二者得分之差大于设定的$\gamma$值即可。超过设定的阈值，不必再增大该部分损失（即设置为$0$），而使模型关注整体的损失。

则式$(3.3)$可进一步写为：$$\frac{1}{n_{+}{n}_{-}}\sum _{j_{+}}^{n_{+}}\sum _{j_{-}}^{n_{-}}l(p_{j_{-}}-p_{j_{+}}+\gamma )=E_{j_{+},j_{-}}[l(p_{j_{-}}-p_{j_{+}}+\gamma )]\text{\hspace{1em}(3.7)}$$

上式反映了最小化分类损失等价于最小化随机采样对的排序损失的期望。

但上式$(3.7)$也存在如下问题：上式没有解决类间的平衡问题；上式的计算量大，总共需计算$n_{+}\times n_{-}$个排序对。

3.2 Distributional Ranking

在检测任务中，大部分负样本能够很好地排序（负样本占总样本的大部分，且候选框内不含前景目标，则），也就是说，随机采样不会显著增加分类损失。这里，为了解决上面提到的问题：将折页损失更改为：$$\underset{\theta }{\min }l(\underset{j_{-}}{\max }\{p_{j_{-}}\}-\underset{j_{+}}{\min }\{p_{j_{+}}\}+\gamma )\text{\hspace{1em}(3.8)}$$

上式表明，如果模型能够将最低置信度的正样本和最高置信度的负样本对排序，则整个样本对都能够很好地排序，即表示最坏的情况（得到最大的损失值）。

对比式$(3.7)$，$(3.8)$将计算量简化为$1$，并且能够很好地解决类间不平衡的问题（整幅图像只采样一个样本对）。但同时这种方法对噪音非常敏感（可能采样到噪声）。为了增强模型的鲁棒性，首先定义正负样本的置信度分布：$$P_{+}=\sum _{j_{+}}^{n_{+}}{q}_{j_{+}}{p}_{j_{+}}{P}_{-}=\sum _{j_{-}}^{n_{-}}{q}_{j_{-}}{p}_{j_{-}}$$

其中${\mathrm{q}}_{+},{\mathrm{q}}_{-}\in \Delta$分别表示正负样本的分布，$P_{+}$和$P_{-}$表示相应分布下预期的置信度，$\Delta$值定义为：$$\Delta =\{q:\sum _j{q}_j=1,\forall j,q_j\ge 0\}$$

有以上定义，则式$(3.8)$中样本所对应的分布可写为：$$P_{+}=\underset{{\mathrm{q}}_{+}\in \Delta }{\min }\sum _{j_{+}}^{n_{+}}{q}_{j_{+}}{p}_{j_{+}}{P}_{-}=\underset{{\mathrm{q}}_{-}\in \Delta }{\max }\sum _{j_{-}}^{n_{-}}{q}_{j_{-}}{p}_{j_{-}}$$

则可以继续重写式$(3.8)$：$$\underset{\theta }{\min }l(P_{-}-P_{+}+\gamma )$$

上式表示在最坏情况下对正负样本的分布排序。

另一方面，如果不对上述分布进行约束的话，上面的优化仍不具有鲁棒性。因此对分布采取如下限制：$$\begin{gathered} P_{-}=\underset{{\mathrm{q}}_{-}\in \Delta ,\Omega ({\mathrm{q}}_{-}||{\mathrm{o}}_{-})\le {\epsilon }_{-}}{\max }\sum _{j_{-}}^{n_{-}}{q}_{j_{-}}{p}_{j_{-}} \\ -P_{+}=\underset{{\mathrm{q}}_{+}\in \Delta ,\Omega ({\mathrm{q}}_{+}||{\mathrm{o}}_{+})\le {\epsilon }_{+}}{\max }\sum _{j_{+}}^{n_{+}}{q}_{j_{+}}(-p_{j_{+}}) \end{gathered}$$

其中${\mathrm{o}}_{+}$和${\mathrm{o}}_{-}$表示正负样本的原始分布，$\mathrm{\Omega }(\cdot )$表示一个正则化器，${\epsilon }_{+}$和${\epsilon }_{-}$用于控制生成分布的自由度。

为了得到约束分布，考虑子问题：$$\begin{gathered} \underset{{\mathrm{q}}_{-}\in \Delta }{\max }\sum _{j_{-}}{q}_{j_{-}}{p}_{j_{-}} \\ s.t.\Omega ({\mathrm{q}}_{-}||{\mathrm{o}}_{-})\le {\epsilon }_{-} \end{gathered}$$

使用对偶法将上式转化为：$$\underset{{\mathrm{q}}_{-}\in \Delta }{\max }\sum _{j_{-}}{q}_{j_{-}}{p}_{j_{-}}-{\lambda }_{-}\Omega ({\mathrm{q}}_{-}||{\mathrm{o}}_{-})$$

有约束的函数优化问题。

这里采用$\mathrm{K}\mathrm{L}$散度正则化方法：$$\underset{{\mathrm{q}}_{-}\in \Delta }{\max }\sum _{j_{-}}{q}_{j_{-}}{p}_{j_{-}}-{\lambda }_{-}\mathrm{K}\mathrm{L}({\mathrm{q}}_{-}||{\mathrm{o}}_{-})$$

$\mathrm{K}\mathrm{L}$散度用于衡量二者部分分布是否相近。

然后利用$\mathrm{K}\mathrm{K}\mathrm{T}$条件求得：$$q_{j_{-}}=\frac{1}{Z_{-}}{o}_{j_{-}}\mathrm{e}\mathrm{x}\mathrm{p}\frac{p_{j_{-}}}{{\lambda }_{-}};Z_{-}=\sum _{j_{-}}{o}_{j_{-}}\mathrm{e}\mathrm{x}\mathrm{p}\frac{p_{j_{-}}}{{\lambda }_{-}}$$

这里涉及函数优化问题，具体内容还需要补一补。

对于正类样本的情况：$$\underset{{\mathrm{q}}_{+}\in \Delta }{\max }\sum _{j_{+}}{q}_{j_{+}}(-p_{j_{+}})-{\lambda }_{+}\mathrm{K}\mathrm{L}({\mathrm{q}}_{+}||{\mathrm{o}}_{+})$$

求得相应的结果：$$q_{j_{+}}=\frac{1}{Z_{+}}{o}_{j_{+}}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{-p_{j_{+}}}{{\lambda }_{+}});Z_{+}=\sum _{j_{+}}{o}_{j_{+}}\mathrm{e}\mathrm{x}\mathrm{p}(-\frac{-p_{j_{+}}}{{\lambda }_{+}})$$

最后，带入以上公式，得到最终分布的置信度：$$\begin{gathered} {\hat{P}}_{-}=\sum _{j_{-}}^{n_{-}}{q}_{j_{-}}{p}_{j_{-}}=\sum _{j_{-}}^{n_{-}}\frac{1}{Z_{-}}\mathrm{e}\mathrm{x}\mathrm{p}(\frac{p_{j_{-}}}{{\lambda }_{-}})p_{j_{-}} \\ {\hat{P}}_{+}=\sum _{j_{+}}^{n_{+}}{q}_{j_{+}}{p}_{j_{+}}=\sum _{j_{+}}^{n_{+}}\frac{1}{Z_{+}}\mathrm{e}\mathrm{x}\mathrm{p}(\frac{-p_{j_{+}}}{{\lambda }_{+}})p_{j_{+}}\text{\hspace{1em}(3.9)} \end{gathered}$$

为了简化计算，论文将原始分布$o$设置为$\frac{1}{n}$。

为了保证非凸函数收敛性，这里引入平滑因素，这里有两种可能的选择用以代替折页损失：$$l_{quad(z)}=\{\begin{array}{ll}z& z\ge \rho \\ \frac{(z+\rho {)}^2}{4\rho }& -\rho ＜z＜\rho \\ 0& z\le -\rho \end{array}\text{\hspace{1em}(3.10)}$$$$l_{logistic(z)}=\frac{1}{L}\mathrm{l}\mathrm{o}\mathrm{g}(1+\mathrm{e}\mathrm{x}\mathrm{p}(Lz))\text{\hspace{1em}(3.11)}$$

最终，实验对比后论文选用的是$\mathrm{l}\mathrm{o}\mathrm{g}\mathrm{i}\mathrm{s}\mathrm{t}\mathrm{i}\mathrm{c}$损失，则最终的分类损失为：$$\underset{\theta }{\min }{L}_{DR}(\theta )=\sum _i^N{l}_{logistic}({\hat{P}}_{i,-}-{\hat{P}}_{i,+}+\gamma )\text{\hspace{1em}(3.12)}$$

使用$\mathrm{S}\mathrm{G}\mathrm{D}$更新参数$\theta$：$${\theta }_{t+1}={\theta }_t-\eta \frac{1}{m}\sum _{s=1}^m▽l_t^s$$

3.3 Recover Classification from Ranking

最终模型的损失函数为：$$\mathrm{m}\mathrm{i}\mathrm{n}\sum _i^N\tau l_{DR}^i+l_{Reg}^i$$

其中回归损失部分沿用$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$中的形式。

---

4.Experiments

4.1 Parameters in DR Loss

如公式$(3.12)$所示，$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$共有三个参数${\lambda }_{+}$、${\lambda }_{-}$和$L$。其中$\lambda$位于对偶条件中，用于对正负样本的置信度分布正则化；$L$用于控制损失函数的平滑性。

4.2 Effect of Parameters

论文本部分介绍了大量针对超参数设置的消融实验，详细内容请参考原文。

4.3 Comparison with State-of-the Art

图4：DR Loss实验结果对比

可以看到，在$\mathrm{R}\mathrm{e}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{a}\mathrm{N}\mathrm{e}\mathrm{t}$中仅将$\mathrm{F}\mathrm{o}\mathrm{c}\mathrm{a}\mathrm{l}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$替换为$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$就能够获得不错的提升。

---

5. Conclusion

本文提出的$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$致力于解决一阶段算法中样本不平衡的问题。首先将原始的分类问题转化为排序问题，然后对置信度分布进行优化。实验结果为仅将检测模型的分类损失替换为$\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$就能获得不错的提升。
由于论文对检测模型的改进仅针对分类损失部分，对现有模型的可修改性较强。同时，该方法具有较强的理论证明，且实验效果很好，后续可以考虑使用该损失进行实验。由于本文涉及很多函数的优化问题，还有一部分没有弄清楚。最后，下面是官方给出的用$\mathrm{P}\mathrm{y}\mathrm{T}\mathrm{o}\mathrm{r}\mathrm{c}\mathrm{h}$实现$\mathrm{S}\mathrm{i}\mathrm{g}\mathrm{m}\mathrm{o}\mathrm{i}\mathrm{d}+\mathrm{D}\mathrm{R}\mathrm{L}\mathrm{o}\mathrm{s}\mathrm{s}$的源码：

import torch
from torch import nn
import torch.nn.functional as F
import math


class SigmoidDRLoss(nn.Module):
	# 几个超参数，依次对应γ、λ、L(最后一个参数不清楚，它乘在损失函数前)
    def __init__(self, pos_lambda=1, neg_lambda=0.1/math.log(3.5), L=6., tau=4.):
        super(SigmoidDRLoss, self).__init__()
        self.margin = 0.5
        self.pos_lambda = pos_lambda
        self.neg_lambda = neg_lambda
        self.L = L
        self.tau = tau

    def forward(self, logits, targets):
    	# 标注相关信息
        num_classes = logits.shape[1]
        dtype = targets.dtype
        device = targets.device
        class_range = torch.arange(1, num_classes + 1, dtype=dtype, device=device).unsqueeze(0)
        t = targets.unsqueeze(1)
        # 获得正负样本id
        pos_ind = (t == class_range)
        neg_ind = (t != class_range) * (t >= 0)
        # 概率p使用sigmoid求得
        pos_prob = logits[pos_ind].sigmoid()
        neg_prob = logits[neg_ind].sigmoid()
        # 对应于式(3.9)
        neg_q = F.softmax(neg_prob/self.neg_lambda, dim=0)
        neg_dist = torch.sum(neg_q * neg_prob)
        # 论文中提到，如果图像中没有正样本，则正样本的P使用1代替
        if pos_prob.numel() > 0:
        	# 对应于式(3.9)
            pos_q = F.softmax(-pos_prob/self.pos_lambda, dim=0)
            pos_dist = torch.sum(pos_q * pos_prob)
            # 对应于式(3.12)
            loss = self.tau*torch.log(1.+torch.exp(self.L*(neg_dist - pos_dist+self.margin)))/self.L
        else:
        	# 对应于式(3.12)
            loss = self.tau*torch.log(1.+torch.exp(self.L*(neg_dist - 1. + self.margin)))/self.L
        return loss

---

参考

1. Qian Q, Chen L, Li H, et al. DR Loss: Improving Object Detection by Distributional Ranking[J]. arXiv preprint arXiv:1907.10156, 2019.
2. Lin T Y, Goyal P, Girshick R, et al. Focal loss for dense object detection[C]//Proceedings of the IEEE international conference on computer vision. 2017: 2980-2988.
3. https://zhuanlan.zhihu.com/p/75896297.

---

完

---