博客园:深度学习笔记(七)SSD 论文阅读笔记简化
知乎:SSD
知乎:目标检测|SSD原理与实现
知乎:SSD-TensorFlow 源码解析
TensorFlow之estimator详解
解析源码地址
SSD源码简单版
看了一下两个版本的代码,如上面链接所示,
简单版,代码和之前解析的源码类型是一致的,更容易理解些,但是只有预测部分而没有训练部分。虽然能很容易理解,但里面没有标签处理,损失计算等部分。即使看懂了,也有种啥都没学到的感觉。
复杂版,当时看到这个源代码是有点懵的,为啥呢?因为看不懂啊,之前没见过用这种方式写的代码,套路不太一样。反反复复犹犹豫豫了好几次,想着要不要花点精力看复杂版的,也尝试在github上搜了一下看看有没有更合适的版本,结果是并没有,所以就硬着头皮解析这个比较复杂的代码了。前期是先跳过了看不懂的部分,直接去看网络构建部分,anchor生成部分,计算损失部分,数据预处理部分,但是整体运行逻辑还是有点懵。后来看了一点有关TensorFlow的Estimator讲解,稍微有点眉目,但是还不是很了解,有点不知所以然。主要是Estimator的方式不太习惯,如果只把他当作一种框架,你按它固定的格式传入相应的参数就行,还可以接受些。具体的网络搭建,anchor创建,损失计算等和之前还是一样的。
相比较YOLOv3,SSD的损失函数相对直观些,这次就不贴手写的了,因为要贴损失计算实现的代码,手写太费事了。
SSD损失函数定义为位置误差(locatization loss, loc)与置信度误差(confidence loss, conf)的加权和(实际代码中还会加上l2_loss以防止过拟合):
其中 是先验框的正样本数量。这里
为一个指示参数,当
时表示第i 个先验框与第j 个ground truth匹配,并且ground truth的类别为 p 。 c 为类别置信度预测值。
为先验框的所对应边界框的位置预测值,而 g 是ground truth的位置参数。
下面盗一张图再来说明一下:
其采用Smooth L1 loss,定义如下:
由于 的存在,所以位置误差仅针对正样本进行计算。值得注意的是,要先对ground truth的g 进行编码得到
(偏移量),因为预测值
也是编码值,若设置variance_encoded_in_target=True,编码时要加上variance=[0.1, 0.1, 0.2, 0.2]:
上面公式在实际代码中的操作如下(encode_all_anchors()函数中):
gt_cy = (gt_cy - anchor_cy) / anchor_h / self._prior_scaling[0] # [0.1, 0.1, 0.2, 0.2]
gt_cx = (gt_cx - anchor_cx) / anchor_w / self._prior_scaling[1]
gt_h = tf.log(gt_h / anchor_h) / self._prior_scaling[2]
gt_w = tf.log(gt_w / anchor_w) / self._prior_scaling[3]
smooth_l1的公式如下,实际计算中x=g-l,g为ground_truth,l为预测值。
其中smooth_l1的代码实现如下:
'''
smooth_l1损失
'''
def modified_smooth_l1(bbox_pred, bbox_targets, bbox_inside_weights=1., bbox_outside_weights=1., sigma=1.):
"""
ResultLoss = outside_weights * SmoothL1(inside_weights * (bbox_pred - bbox_targets))
SmoothL1(x) = 0.5 * (sigma * x)^2, if |x| < 1 / sigma^2
|x| - 0.5 / sigma^2, otherwise
"""
with tf.name_scope('smooth_l1', values=[bbox_pred, bbox_targets]):
sigma2 = sigma * sigma
inside_mul = tf.multiply(bbox_inside_weights, tf.subtract(bbox_pred, bbox_targets))
smooth_l1_sign = tf.cast(tf.less(tf.abs(inside_mul), 1.0 / sigma2), tf.float32)
smooth_l1_option1 = tf.multiply(tf.multiply(inside_mul, inside_mul), 0.5 * sigma2) # 0.5x^2
smooth_l1_option2 = tf.subtract(tf.abs(inside_mul), 0.5 / sigma2) # |x|-0.5
smooth_l1_result = tf.add(tf.multiply(smooth_l1_option1, smooth_l1_sign),
tf.multiply(smooth_l1_option2, tf.abs(tf.subtract(smooth_l1_sign, 1.0))))
outside_mul = tf.multiply(bbox_outside_weights, smooth_l1_result)
return outside_mul
实际程序中计算smooth_l1损失的代码如下(其中location_pred是预测边框的编码值,flaten_loc_targets是标记边框的编码值):
#*******预测框回归smooth_l1损失
loc_loss = modified_smooth_l1(location_pred, flaten_loc_targets, sigma=1.) # 这时是框坐标的偏移量
loc_loss = tf.reduce_mean(tf.reduce_sum(loc_loss, axis=-1), name='location_loss')
tf.summary.scalar('location_loss', loc_loss)
tf.losses.add_loss(loc_loss)
其采用softmax loss:
权重系数 通过交叉验证设置为1。
实际程序中对应的代码如下(其中flaten_cls_targets是类别标记值,cls_pred是预测类别值):
# 分类的交叉熵损失,并乘以权重系数3+1
cross_entropy = tf.losses.sparse_softmax_cross_entropy(labels=flaten_cls_targets, logits=cls_pred) * (params['negative_ratio'] + 1.)
# 创建一个名为cross_entropy_loss的张量用于记录。
tf.identity(cross_entropy, name='cross_entropy_loss')
tf.summary.scalar('cross_entropy_loss', cross_entropy)
在实际代码中,为了防止过拟合,加入了l2_loss(l2_loss一般用于优化目标函数中的正则项,防止参数太多复杂容易过拟合)。
不过正常的l2范数是求变量平方和再开根号,但是实际代码中并不是完全这样做的,而是求变量平方和的一半。
# l2_loss一般用于优化目标函数中的正则项,防止参数太多复杂容易过拟合
# l2 计算模型中所有可训练变量(除了带_bn和conv4_3_scale的变量)的l2范数(变形版,求平方和的一半),l2范数是求平方和开根号
l2_loss_vars = []
for trainable_var in tf.trainable_variables():
if '_bn' not in trainable_var.name:
if 'conv4_3_scale' not in trainable_var.name:
l2_loss_vars.append(tf.nn.l2_loss(trainable_var)) #tf.nn.l2_loss 利用L2范数来计算张量的误差值,output = sum(t^2)/2
else:
l2_loss_vars.append(tf.nn.l2_loss(trainable_var) * 0.1)
total_loss是将上面的loc_loss,cross_loss,l2_loss_vars相加得到整个模型的损失。
# Add weight decay to the loss. We exclude the batch norm variables because doing so leads to a small improvement in accuracy.
# 增加重量衰减。 我们将批处理规范变量排除在外,因为这样做会导致准确性略有提高。
total_loss = tf.add(cross_entropy + loc_loss, tf.multiply(params['weight_decay'], tf.add_n(l2_loss_vars), name='l2_loss'), name='total_loss')
上面的weight_decay在一开始得参数定义中定义。
tf.app.flags.DEFINE_float(
'weight_decay', 5e-4, 'The weight decay on the model weights.') 模型l2_loss上的权重衰减系数
SSD的损失确实相对好理解些,好了,到此SSD的源码算是粗略地解析完了,如果发现其中的错误,欢迎批评指正!我是一个菜鸟,需要不断学习提高!加油!