61——SA-UNet: Spatial Attention U-Net for Retinal VesselSegmentation

论文信息：Changlu Guo;Marton Szemenyei;Yugen Yi;Wenle Wang;Buer Chen;Changqi Fan; (2021). SA-UNet: Spatial Attention U-Net for Retinal Vessel Segmentation . 2020 25th International Conference on Pattern Recognition (ICPR), (), –. doi:10.1109/icpr48806.2021.9413346

 

SA-UNet引入了空间注意模块，该模块沿空间维度推导出注意图，并将注意图乘以输入特征图，实现自适应特征细化。此外，该网络采用结构化的dropout卷积块代替U-Net原有的卷积块，防止网络过拟合。我们基于两个基准视网膜数据集评估SA-UNet:血管提取(DRIVE)数据集和儿童心脏和健康研究(CHASE_DB1)数据集。

如SD-Unet[10]所示，使用DropBlock[11]可以有效地防止网络的过拟合，因此即使小样本数据集，可以很好地训练视网膜眼底图像。此外，批处理归一化(BN)可以提高网络[12]的收敛速度。因此，SA-UNet首先采用一种将DropBlock和批归一化(BN)集成的结构化dropout卷积块的变种来取代原来的U-Net卷积块。更重要的是，眼底图像中血管与非血管特征的差异不明显，尤其是小的边缘血管区域。通过引入少量的附加参数，空间注意可以增强重要的特征(如血管特征)，抑制不重要的特征，从而提高网络的表示能力。我们在两个公共视网膜眼底图像数据集:DRIVE和CHASE_DB1上评估SA-UNet。

编码器的每一步都包括一个结构化的dropout卷积块和一个2×2 max池操作。每个卷积块的卷积层后面跟着一个DropBlock，即批处理

归一化(BN)层和修正线性单元(ReLU)，然后利用max pooling操作进行下采样，步长为2。在每一个降采样步骤中，我们将特征通道的数量增加一倍。解码器中的每个步骤包括2×2转置卷积运算，用于上采样并将特征通道的数量减半，与来自编码器的相应特征映射连接，然后随后是一个结构化的dropout卷积块。在编码器和解码器之间添加空间注意模块。最后一层使用1×1卷积和Sigmoid激活函数得到输出的分割图。

虽然对原始数据集进行了数据增强，但原始UNet训练中仍然存在严重的过拟合现象，如图2(左)所示。因此，我们的基本架构采用了18层卷积的轻量级U-Net，但它仍然存在过拟合问题，如图2(中)所示。受近期计算机视觉作品成功应用DropBlock的启发，我们采用DropBlock来规范网络。DropBlock是dropout的一种结构化形式，可以有效地防止卷积网络[10]中的过拟合问题。它与dropout的主要区别在于，它从一个层的特征图中丢弃连续的区域，而不是丢弃独立的随机单元。在此基础上，我们构造了一个结构化的dropout卷积块，即每个卷积层后面都有一个DropBlock、一层批处理归一化(BN)和一个ReLU激活单元，如图3右侧所示。卷积结构化的dropout卷积块引入了批归一化(BN)来加速网络收敛。我们用这种结构化的dropout卷积块代替了U-Net原有的卷积块，构建了一个u形网络作为我们的“骨干”。与原始U-Net的23个卷积层相比，我们的Backbone只有18个卷积层，如图2所示。(左)，完美地解决了过拟合问题，加速了网络的收敛

引入空间注意模块(Spatial Attention Module, SAM)作为卷积块注意模块的一部分，用于[14]的分类和检测。它利用特征之间的空间关系生成空间注意图。 

 为了对数据进行扩充，我们对两个数据集都采用了表I最后一列所示的四种数据扩充方法（(1)随机旋转;(2)加入高斯噪声;(3)颜色抖动;(4)水平、垂直、对角翻转。），每一种方法都从一个原始图像生成3张新图像，即我们将原来的20张训练图像增加到256张原始数据集。