将自注意力模型解耦,解决视觉任务中自注意力退化

微软亚洲研究院在 B 站分享了 ECCV 2020 论文“解耦自注意模型”。针对自注意模型中的退化现象,论文提出了解耦自注意模型,有效避免了这一退化现象,并证明了其在多种视觉识别任务中广泛有效,包括语义分割、物体检测、动作识别等。

链接(包括B站作者讲解视频片段)https://mp.weixin.qq.com/s/-SU5cNbklI31WLmTawZJIQ

论文    https://arxiv.org/pdf/2006.06668.pdf

代码    https://github.com/yinmh17/DNL-Semantic-Segmentation

https://github.com/Howal/DNL-Object-Detection

https://github.com/open-mmlab/mmsegmentation/tree/master/configs/dnlnet

你可能感兴趣的:(将自注意力模型解耦,解决视觉任务中自注意力退化)