CVPR 2021 | DMSANet:双多尺度注意力机制

CVPR 2021 | DMSANet:双多尺度注意力机制_第1张图片

DMSANet: Dual Multi Scale Attention Network 

paper:https://arxiv.org/pdf/2106.08382.pdf

code:https://github.com/abhinavsagar/DMSANet

双多尺度注意力网络(DMSANet)在图像分类、目标检测和实例分割上均适用,性能优于EPSANet、FcaNet和SENet等网络

摘要

注意机制最近在计算机视觉领域很受欢迎。为了提高网络的性能,已经做了许多工作,尽管它几乎总是会增加计算复杂度。文章提出了一种新的注意模块,它不仅性能最好,而且具有较少的参数。文章中的注意模块可以简单地与其他卷积神经网络很容易地集成,因为它的轻量级性质。双多尺度注意网络(DMSANet)由两部分组成:第一部分用于提取不同尺度的特征并进行聚合,第二部分并行使用空间和通道注意模块,自适应地将局部特征与全局依赖性集成。在MSImage网数据集、MSCOCO数据集上的对象检测和实例分割上对图像分类的网络性能进行了基准测试。

CVPR 2021 | DMSANet:双多尺度注意力机制_第2张图片

 论文主要思想

使用Shuffle Attention将输入分为通道注意和空间注意两组。通道注意模块用于选择性地加权每个特征通道的重要性,从而产生最佳的输出特性,论文中采用的是SE模块。空间注意机制用于模拟特征的任意两个像素之间的空间关系。最后,通过channel shuffle机制沿通道维度将通道注意力核空间注意力特征聚合。

CVPR 2021 | DMSANet:双多尺度注意力机制_第3张图片

 Keras实现

等待原作者发布代码,立即更新!

 声明:本内容来源网络,版权属于原作者,图片来源原论文。如有侵权,联系删除。

创作不易,欢迎大家点赞评论收藏关注!(想看更多最新的注意力机制文献欢迎关注浏览我的博客)

你可能感兴趣的:(深度学习之注意力机制)