DenseVoxNet读书笔记

发表期刊：MICCAI2017

目标：分割心脏及心血管的3D的MR图像

结果：获得HVSMR 2016比赛的第一

网络：DenseVoxNet

网络特点：

1. 它将每一层的结果保留至下一层，由于损失函数的反向传播路径变短，每一层的输出可以受到更强的影响，因此训练速度更快

2. 因为每一层都直接利用之前每个层的特征图，因此该网络可以避免学习多余的特征图像。（？？？）

3. 网络中每层的特征图像较少，有利于小样本的训练，防止过拟合。

网络结构：

如图所示，网络采用3D 全卷积（fcn）网络的结构，网络中有两个denseblock，每个denceblock如小框所示，每一个卷积的结果都会直接与后面每一个输出concat起来。block中有12层，每一层都有batch normalization、ReLU以及12个3*3*3(*前面的卷积核数)的卷积核，最终通过两层反卷积层，输出分割图像。

各网络对比：

该论文提到的DenseNet的参数量远少于U-net，仅为U-net的十分之一

数据：

数据集来自HVSMR 2016比赛， 训练集和测试集各有10个3D心脏MR图像，数据进行了归一化， 采用了旋转（90\180\270度）的方式增加数据量。

训练：

使用高斯分布随机初始化参数（μ=0，σ=0.01）

使用随机梯度下降法进行优化（batch size=3, weight decay=0.0005,momentum=0.9)

初始学习率设定为0.05

学习率衰减使用poly的方式

训练轮数：15000（这么多？）

从训练集随机裁剪64*64*64的子图像进行训练，避免爆显存

最终分割结果采用投票的策略：测试时同样使用裁剪的方式获取子图像，裁剪是重叠的，对于每一个像素点，都会产生几个结果，最终采用投票的方式确定像素的分类结果。

分割效果示意图：

左边2图为训练集的分割结果，右边2图为测试集的分割结果。在左边两张图中，实际上也标注了ground truth图像：白色的为心脏，灰色的为血管。

相比ResNet的改进

ResNet中的shortcut跳跃连接了不同的层，但是连接方式是直接相加，这样会干扰网络中信息的流动。本文中的模型并没有采用想加的模式，而是并列，同时提取特征。(U-net不也是）