(脑肿瘤分割笔记:十四)用于脑肿瘤分割的优化U-Net

目录

Titie:Optimized U-Net for Brain Tumor Segmentation

Abstract--摘要

Introduction

方法-Method

数据

数据预处理与数据增强

模型架构

损失函数

深监督

补充:K-Fold交叉验证


Titie:Optimized U-Net for Brain Tumor Segmentation

Abstract--摘要

本文进行了广泛的消融研究来测试:深度监督损失,焦点损失,解码器注意力块,Dropout块和残差连接。此外本文还探索了U-Net编码器的最佳深度,卷积通道数和后处理策略。

总之总体的目标就是选择性能最优的U-Net结构。

Introduction

目前存在很多U-Net的变体如Attention UNet;残差U-Net,U-Net++;U-Net3+等等。广泛的U-Net架构使得选择一个最佳的UNet结构来匹配脑肿瘤分割任务非常重要。此外一旦确定了网络架构,选择合适的损失函数和数据增强策略也会变得非常重要。

方法-Method

数据

数据的注释由4类组成:1)增强肿瘤(ET)2)瘤周水肿组织(ED)3)坏死肿瘤核心(NCR)4)背景

数据预处理与数据增强

此外为了获得更好的效果采取了数据增强策略:1)有偏差的裁剪 2)缩放3)翻转4)在数据中加入高斯噪声 5)改变对比度与亮度

模型架构

1)U-Net:U-Net就是U型的编码器-解码器结构。在编码器部分进行下采样,将输入转换为低维空间,特征通道数不断变大,特征图的分辨率不断变小。然后解码器部分上采样逐渐恢复特征图的大小,并且通道数也不断变小。

2)SegResNet-VAE:SegResNet-VAE是带有自动编码器正则化的残差U-Net,其示意图如下:

(脑肿瘤分割笔记:十四)用于脑肿瘤分割的优化U-Net_第1张图片

它通过添加变分自编器分支来修改解码器的分支,它的重构输入具有正则化效果。在解码器分支中将来自瓶颈的特征图缩减到256的低纬空间(128表示均值,128表示标准差),然后从具有给定均值和标准差的高斯分布中抽取一个样本,并按照与解码器相同的架构重构输入图像维度。

3)UNETR:UNETR是VIT对3D卷积的概括--它使用多头注意力代替了编码器的3D卷积,为了将3D输入体积转换为多头自注意力的输入,它被分为一系列的均匀非重叠的Patch并使用了线性层投影到了嵌入空间,并且添加了位置嵌入,其网络结构示意图为:

(脑肿瘤分割笔记:十四)用于脑肿瘤分割的优化U-Net_第2张图片

4)Attention UNet:Atttention UNet通过在解码器部分添加注意力门来扩展基础的UNet。注意力门在解码器块中连接之前从编码器转换得到的特征图。通过使用这个结构可以了解到编码器特征图中哪些区域是重要的。结构门的结构如下图所示:

(脑肿瘤分割笔记:十四)用于脑肿瘤分割的优化U-Net_第3张图片

5)Residual U-Net:Residual U-Net就是在普通的U-Net的基础上加入残差连接,这有助于训练深度神经网路,从而避免可能产生的梯度消失和梯度爆炸问题。

根据实验结果可知,一个基本的U-Net取得了最好的效果

损失函数

 将输出特征图设计为具有3个通道的特征(每个类一个)也就是WT,ET,TC,最后通过Sigmod激活函数进行转换。每个区域分别使用二元交叉熵或焦点损失和Dice Loss总和进行优化。

深监督

深监督通过计算不同解码器级别的损失函数来帮助获得更好的梯度流,在本文中添加了两个额外的输出头最终的损失函数为

补充:K-Fold交叉验证

概念:数据分为1)训练集 2)验证集(在训练集中抽出分出一部分作为验证集,用于调参评估模型的性能。)3)测试集

验证集来源于训练数据但不参与训练,模型在验证数据数据中的评估常用的是交叉验证又被称为循环验证。

K-Fold定义:将原始数据(也就是训练集)分为K组,将每一个子集数据分别做一次验证集,其余的K-1组子集作为训练集,这样会得到k个模型,这K个模型分别在验证集中评估结果,最后的误差MSE加权平均得到交叉验证误差。

你可能感兴趣的:(脑肿瘤分割论文笔记,深度学习,人工智能,计算机视觉)