点击下方卡片,关注“CVer”公众号
AI/CV重磅干货,第一时间送达
转载自:集智书童
Multiscale Domain Adaptive YOLO for Cross-Domain Object
Detection
论文:https://arxiv.org/abs/2106.01483本文介绍了一种新的多尺度域自适应YOLO(MS-DAYOLO)框架,该框架在YOLOv4检测器的不同尺度上使用多个域自适应路径和相应的域分类器来生成域不变特征。
Domain Adaptation在解决许多应用中遇到的Domain Shift问题方面发挥了重要作用。这个问题的出现是由于用于训练的源数据的分布与实际测试场景中使用的目标数据之间存在差异。
本文介绍了一种新的多尺度域自适应YOLO(MS-DAYOLO)框架,该框架在YOLOv4检测器的不同尺度上使用多个域自适应路径和相应的域分类器来生成域不变特征。实验表明,当使用本文提出的MS-DAYOLO训练YOLOv4时,以及在自动驾驶应用中具有挑战性的天气条件的目标数据上进行测试时,目标检测性能得到了显著改善。
相对于YOLO V3,YOLOv4包含了许多新的改进和新技术,以提高整体检测精度。
如图所示YOLOv4有3个主要部分:backbone、neck和head。
backbone负责提取不同尺度下的多层特征。
neck使用上采样层将backbone的3种不同尺度的特征聚集在一起,并将它们输入head。
最后,head预测目标周围的边界框以及与每个边界框相关联的类别概率。
本文作者的目标是将域适应应用于这3个特征(图中的F1、F2、F3),使它们对不同尺度的域变化具有鲁棒性,从而使它们在基于域适应的训练中向域不变性收敛。
提出的域自适应网络(DAN)仅在训练时附加到YOLOv4中以学习域不变特征。对于推理,在推理阶段,将使用原始的YOLOv4体系结构中使用领域自适应训练的权重(没有DAN网络)。因此,本文所提出的框架不会增加推理过程中底层检测器的复杂性。
DAN使用backbone的3个不同的尺度特征作为输入。它有几个卷积层来预测域类。然后,利用二元交叉熵计算域分类损失(Ldc):
这里 为第 个训练图像的ground truth域标签,其中 为源域, 为目标域。 是第 个训练图像在位置 的特征图。
DAN通过最小化这种上述损失来区分源域和目标域。另一方面,为了最大限度地学习域不变特征,对主干也进行了优化。因此,对于这2个域,backbone的特征应该是难以区分的。因此,这将提高目标域的目标检测性能。
为了解决联合最小化和最大化问题,作者采用了对抗学习策略。通过在backbone网络和DAN网络之间使用梯度反转层(GRL)来实现这个矛盾的目标。
GRL是一个双向算子,用于实现2个不同的优化目标。在前向传播方向上,GRL作为恒等算子。这导致了在DAN内执行局部反向传播时最小化分类错误的标准目标。另一方面,向主干网络反向传播时,GRL变成一个负标量 。因此,在这种情况下,它会导致最大的二分类错误,这种最大化促进了由backbone生成领域不变特征。
为了计算检测损失(ldt),只使用源图像。因此,通过最小化ldt, YOLOv4的所有3个部分(即backbone, neck和head)都得到了优化。另一方面,利用源标记图像和目标未标记图像计算域分类损失(Ldc),Ldc通过最小化来优化DAN, Ldc通过最大化来优化backbone。因此,Ldet和Ldc都被用来优化backbone。换句话说,通过最小化以下总损失,backbone被优化了:
其中 是GRL的一个负标量,用来平衡检测损失和域分类损失。事实上, 是用来优化DAN对backbone的影响。
与在Domain Adaptive Faster R-CNN架构中只对特征提取器的最终尺度应用域自适应不同,本文分别开发了3个尺度的域自适应来解决梯度消失问题。也就是说,只对最终的尺度(F3)进行域自适应,由于之前的尺度(F1和F2)之间有很多层,存在梯度消失的问题,因此对之前的尺度(F1和F2)没有显著影响。
因此,作者采用了一个多尺度策略,将主干的三个特征F1、F2和F3通过三个相应的grl连接到DAN,如图2所示。对于每个尺度,GRL之后有2个卷积层,第1个卷积层将特征通道减少一半,第2个卷积层预测域类概率。最后,利用域分类器层计算域分类损失。
从这些结果可以看出,将域自适应应用于所有3个特征尺度提高了目标域的检测性能,取得了最好的结果。此外,作者提出的MS-DAYOLO在性能上大大优于原来的YOLOv4方法,几乎达到了理想(oracle)场景的性能。
结果如表2所示。在2个数据集中,本文的方法都比原始的YOLO得到了明显的性能提升。
CVPR和Transformer资料下载
后台回复:CVPR2021,即可下载CVPR 2021论文和代码开源的论文合集
后台回复:Transformer综述,即可下载最新的两篇Transformer综述PDF
CVer-目标检测交流群成立
扫码添加CVer助手,可申请加入CVer-目标检测 微信交流群,方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch和TensorFlow等群。
一定要备注:研究方向+地点+学校/公司+昵称(如目标检测+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群
▲长按加小助手微信,进交流群▲点击上方卡片,关注CVer公众号
整理不易,请给CVer点赞和在看