RetinaNet详解

网络结构

这里默认$3\ast 3$个anchor,图中标出以输入为672*640大小时,每层对应的尺度,以及每层对应anchor个数和每个特征层base anchor对应到原图的anchor大小.

边界框回归

在faster rcnn 中存在3个框，其中anchor, ground truth为已知固定的框, predict 为预测框

其中：

$Anchor:(A_x,A_y,A_w,A_h)$

$Predict:(P_x,P_y,P_w,P_h)$

$GroundTruth:(G_x,G_y,G_w,G_h)$

目标：

边界框回归的目的即寻找一个$F$,使得
$F(A_x,A_y,A_w,A_h)=(P_x,P_y,P_w,P_h)\approx (G_x,G_y,G_w,G_h)$

方法：

1. 平移
   $$P_x=A_w\cdot d_x(A)+A_x$$
   $$P_y=A_h\cdot d_y(A)+A_y$$

2. 放缩

$$P_w=A_w\cdot e^{d_w(A)}$$
$$p_h=A_h\cdot e^{d_h(A)}$$
当输入 anchor 和 groundtruth 相差不远可以近似使用线性回归模型转换

线性回归

$$d_{\ast }(A)=W_{\ast }^T\cdot \Phi (A)$$

其中 $\ast =x,y,w,h$

$$Loss=\sum _i^N(t_{\ast }^i-W_{\ast }^T\cdot \Phi (A^i){)}^2$$
其中 $t_{\ast }$ 为 Anchor 与 Groundtruth 的位置位移参数

$$t_x=\frac{G_x-A_x}{A_w}$$
$$t_y=\frac{G_y-A_y}{A_h}$$
$$t_w=\ln \frac{G_w}{A_w}$$
$$t_h=\ln \frac{G_h}{A_h}$$

retinaNet网络回归部分学习到的参数即为$t_{\ast }$

回归损失函数选择

l1 loss

• 优点：梯度稳定
• 缺点：中点不易求导

l2 loss

• 优点：各点光滑
• 缺点：误差累积，可能因为个别样本(远的样本)导致梯度爆炸

Smooth l1 loss:结合二者优缺点
$$Smoothl1loss(x)=\{\begin{array}{l}0.5\ast x^2,|x|<1\\ |x|-0.5,other\end{array}$$

分类损失函数选择

交叉熵损失函数：

$$CE=-log(p)$$

focal loss:
$$FL=-\alpha (1-p{)}^{\gamma }log(p)$$
原理：在网络预测中，正负样本比相差大（由anchor开以推测出预测样本有几万个，而gt只有几个），并且负样本大多为简单样本，大量的简单样本损失累计会导致训练缓慢，所以对预测错误的样本添加权重，从而使简单样本损失降得更大，从而优化了训练。