【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati

声明

不定期更新自己精读的论文,通俗易懂,初级小白也可以理解

涉及范围:深度学习方向,包括 CV、NLP、Data fusion、Digital Twin



【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第1张图片

论文题目:

DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati

DUDA-Net:用于 COVID-19 肺部 CT 图像中自动感染区域分割的双 U 形扩张注意力网络

论文链接:https://sci-hub.st/10.1007/s11548-021-02418-w

论文代码:https:// github.com/AaronXieSY/DUDANet-for-COVID-19-lesio ns-Segmentation.git

数据集:https://academictorrents.com/details/136ffddd0959108becb2b3a86630bec049fcb0ff/

发表时间:2021年6月


创新点

1、首次提出 COVID-19 粗分割方法。粗分割网络消除了非肺部区域的干扰,提高了细分割网络的学习效率

2、提出了一种设计的扩张卷积注意力(DCA)机制,该机制获取多尺度上下文信息并专注于通道信息,以提高网络分割小的 COVID-19 病变的能力

3、具有适合 COVID-19 病灶分割的损失函数


Abstract

目的  

由 2019 年冠状病毒 (COVID-19) 引起的全球健康危机是全人类面临的共同威胁。在诊断 COVID-19 和治疗患者的过程中,从计算机断层扫描图像中自动分割 COVID-19 病灶有助于医生和患者直观地了解肺部感染。为了有效量化肺部感染,提出了一种基于深度学习的用于肺部感染自动分割的卷积神经网络。

方法  

这种新型的 COVID-19 病变分割网络基于 U-Net 主干。首先,构建粗分割网络以提取肺部区域。 其次,在精细分割网络的编解码过程中,引入了一种新的软注意力机制,即扩张卷积注意力(DCA)机制,使网络能够专注于更好的量化信息,加强网络在细分领域的分割能力。 病变的细微区域。

结果

实验结果表明,DUDA-Net 的平均 Dice 相似系数(DSC)、敏感性(SEN)、特异性(SPE)和曲线下面积分别为 87.06%、90.85%、99.59% 和 96.5%。此外,U 型网络方案和 DCA 机制的引入可以将 DSC 分别提高 24.46% 和 14.33%。

结论  

提出的 DUDA-Net 方法可以自动分割 COVID-19 病灶,性能优异,表明该方法具有重要的临床意义。此外,引入粗分割网络和 DCA 机制可以提高 COVID-19 的分割性能。


Method

图像处理和数据增强

作者为了强调 CT 图像特征和提高图像质量,

应用全局直方图均衡来增强图像对比度、添加高斯噪声和旋转增加训练数据集

全局直方图均衡方法的主要思想是平均重新分配每个像素值。通过使用这种方法,CT 图像中的 COVID-19 感染区域变得更加明显

图像旋转 90°、180° 和 270°,以将训练数据集扩大五倍

【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第2张图片

标记好的病变肺部 CT 图

网络架构

【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第3张图片

粗分割网络(Coarse segmentation)包含 6 个卷积层、4 个池化层和 4 个转置卷积层

首先,将大小为 256 × 256 的 CT 图像输入粗分割网络

然后,通过编码器中 2 × 2 最大池层和 3 × 3 步长为 1 的卷积层的 4 次迭代 

获得了大小为 128 × 128、64 × 64、32 × 32 和 16 × 16 的多级语义特征

此外,为了迭代地恢复图像分辨率,解码器中引入了 3 × 3 步长为 2 的转置卷积层

此外,解码器中的高级语义特征图与编码器中的低级细节特征图密集连接,以恢复肺部区域的细节

此外,在每个卷积层和转置卷积层之后都加入了批归一化,使每层的输入特征图保持与输入图像相同的分布,加速训练收敛

精细分割网络(Fine segmentation)包含6个卷积层、4个转置卷积层、4个maxpooling层和6个DCA块,和主干上的粗分割网络一样,都是U型网络

然而,病变的分割比肺区域的分割更困难。 病灶分布不均,大小不一。 单独使用的 U 形网络表现不佳。 为了提高病变分割性能,提出了一种通道注意机制,即 DCA 块,以强制网络关注关键区域和通道。 在这项工作中,在精细分割网络中每一层的普通卷积操作之后添加了一个 DCA 块

另外,最后一层粗分割网络和细分割网络的激活函数都是 sigmoid 函数,其他层都使用了整流线性单元(ReLU)激活函数

DCA 机制

【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第4张图片

DCA 机制引入了不同扩张率的并行扩张卷积来获取多尺度感受野,有利于在不丢失信息的情况下学习尺度不变的特征

DCA块的整体结构如图所示。输入特征的高度、宽度和通道数分别为 H 、W和C 。输出特征图的大小仍然是 H × W × C 

详细结构,图示中很清晰,图中全连接层,可以简单理解为,调整 4 个不同感受野的卷积输出特征,整合成一个特征向量,然后与最初的 3*3 卷积,进行乘法,在进行加法操作,实现特征向量蕴含信息增加,然后范围增多,提高精度的效果

损失函数的选择

作者比较了多种损失函数,观察那个更适合 COVID-19 病灶分割

实验结果表明 Tversky 损失(TL)在 DSC (87.06%)、IoU (77.09%) 和 SEN (90.85%) 方面优于其他损失函数。

Experiments

实验目的:比较了多种损失函数,观察那个更适合 COVID-19 病灶分割

实验结果:Tversky损失(TL)更适合

【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第5张图片

 上图的各种指标原文,有详细解释,大家可以看一下原文,这里就不一一介绍了

实验目的:不同典型模型的结果比较

实验结果:我们的架构整体性能上提高

【论文笔记】DUDA‑Net: a double U‑shaped dilated attention network for automatic infection area segmentati_第6张图片

你可能感兴趣的:(Vision,Transformer,论文笔记,transformer,深度学习,神经网络,计算机视觉,人工智能)