【论文阅读笔记】【ARXIV2105】An Efficient Pyramid Split Attention Block on Convolutional Neural Network

源文https://arxiv.org/abs/2105.14447源代码https://github.com/murufeng/EPSANet

Introduction

Model

Pyramid Split Attention (PSA)在SENet的基础上提出多尺度特征图提取策略，整体结构图如下所示。具体可分为如下四个步骤：

1. Split and Concat (SPC)模块用于获得空间级多尺度特征图；
2. SEWeight（SENet中的模块）被用于获得空间级视觉注意力向量来抽取多尺度响应图的目标特征；
3. 使用Softmax函数用于再分配特征图权重向量；
4. 元素相乘操作用于权重向量与原始特征图来获得最终结果响应图。

SPC module

如上图所示，k0、k1­、k2和k3是不同卷积核参数（以ESPANet-small为例，论文取3，5，7和9），G0、G1、G2和G3是分组卷积的参数（以ESPANet-small为例，论文默认取1,4,8和16）。整体可看做是模型采用不同卷积核提取多尺度目标特征，并采取Concat操作结合不同感受野下的多尺度特征。

SEWeight module 

 ESPNet

ESPANet中的block如下所示，相比于ResNet，其就是使用PSA模块取代3x3的卷积，ESPANet block整体结构如下图所示。

Experiment

Image Classification on ImageNet

 Object Detection on MS COCO