【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型

本文是论文《FAIM – A ConvNet Method for Unsupervised 3D Medical Image Registration》的阅读笔记。

文章提出了一个用于3D医学图像的无监督配准模型FAIM(FAst IMage registration),相比于VoxelMorph,FAIM拥有更少的可学习参数,但是能达到更好的性能。此外FAIM提出了一个负的雅克比行列式的惩罚性损失(防重叠正则化项),以使得预测的形变场具有更少的重叠,重叠的部分表示形变是不可逆的。文章相应的代码见FAIM代码。

一、相关工作

【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第1张图片

已有的基于学习的配准方法通常不能保证预测的形变场是微分同胚的,即可逆和可微的。由于形变场很多地方可能是重叠的,表明该转换是不可逆的。图是是通过VoxelMorph配准得到图像,deformation图中红色的部分表示形变场中重叠的部分,即雅克比行列式为负的地方。

空间转换网络(STN)一开始只是用于2D图像的仿射和薄板样条变换,后来才逐渐用于3D的图像变换。配准是为了优化一个参数化的转换 ϕ \phi ϕ,使得从源图像 S ( x ) S(x) S(x)转换得到的图像 S ∘ ϕ − 1 ( x ) S\circ\phi^{-1}(x) Sϕ1(x)与目标图像 T ( x ) T(x) T(x)尽可能的相似。在FAIM中,使用位移场 u ( x ) u(x) u(x)来参数化转换 ϕ \phi ϕ,即 S ∘ ϕ − 1 ( x ) = S ( x + u ( x ) ) S\circ\phi^{-1}(x)=S(x+u(x)) Sϕ1(x)=S(x+u(x))。位移的3D向量场通过空间变换模型(spatial deformation module,SDM)得到。

二、FAIM

【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第2张图片

网络模型结构如上图所示,SDM的第一层收到了GoogLeNet的Inception模型的启发,该层可以对比和捕获不同空间尺度的信息。在每个卷积层的后面都跟着一个PReLU激活函数,最后一个卷积层除外,它后面跟着的是一个线性激活函数来产生位移场。采样模型首先根据位移场产生一个采样网格,然后用它来对源图像通过插值的方法进行采样,得到变形后的图像。在SDM中,使用步长>1的卷积来减小特征图的大小,而不是使用最大池化层。Transposed卷积层用作上采样。并且SDM中还有3个跳跃连接操作。相比于VoxelMorph中使用的Unet网络结构,FAIM中的SDM的参数减少了约30%。
【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第3张图片

上图是训练损失,其中 L i m a g e L_{image} Limage是基于互相关(CC)的图像相似度损失, R 1 R_1 R1是使得预测的位移场平滑的正则项, R 2 R_2 R2是惩罚具有较多负的雅克比行列式的形变场的正则项。

三、实验

实验使用的是MindBoggle101数据集,该数据集包括三个子数据集:

  • NKI-RS-22
  • NKI-TRT-20
  • OASIS-TRT-20

将NKI-RS-22和NKI-TRT-20作为训练集,将OASIS-TRT-20作为测试集。使用FreeSurfer对所有图像进行预处理,然后使用其DK皮层分组图谱自动标记皮层。每个图像都是 182 × 218 × 182 182\times218\times182 182×218×182大小的,然后裁剪到 144 × 180 × 144 144\times180\times144 144×180×144大小,这些图像已经对齐到MNI152空间,还需要将其灰度值归一化到[0, 1]的范围。

实验具体设置为 α = 1 \alpha=1 α=1,epoch=10,选用学习率为 1 e − 4 1e^{-4} 1e4的Adam优化器,使用VoxelMorph作为baseline,使用Dice值作为评价指标。预测形变场 ϕ \phi ϕ的质量通过雅克比行列式 d e t ( ∇ ϕ − 1 ( x ) ) det(\nabla\phi^{-1}(x)) det(ϕ1(x))为负数的位置的数量来进行评估,即 N : = ∑ δ ( det ⁡ ( D ϕ − 1 ) < 0 ) \mathcal{N}:=\sum \delta\left(\operatorname{det}\left(D \phi^{-1}\right)<0\right) N:=δ(det(Dϕ1)<0)
【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第4张图片

上图是FAIM预测的形变场对应的雅克比行列式图,四张图分别表示在 β \beta β不同取值下的情况,红色的部分表示有重叠(行列式值为负数),蓝色的部分表示行列式值为正。在正则项没有使用的时候,即 β = 0 \beta=0 β=0时,形变场中有很多位置的雅克比行列式是负数,当 β = 1 0 − 5 \beta=10^{-5} β=105时,该数量就会骤减。
【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第5张图片
上图是不同 β \beta β取值情况下,VoxelMorph和FAIM模型配准的Dice和 N N N的均值情况。
【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第6张图片

为了研究网络怎么平衡高准确率和第重叠区域,在上图(b)中绘制了平均dice得分与重叠位置的平均数量。
【论文笔记】FAIM(FAst IMage registration):使用负雅克比行列式防止形变场重叠的医学图像配准模型_第7张图片

Probabilistic VoxelMorph不是使用显式的损失来控制重叠,而是在一个集成层(integration layer)使用展开和缩放(square and scale)算法来迭代计算由UNet产生的速度场的组成,以得到最终的变形。此外还将Prob-VoxelMorph的backbone从UNet改成了FAIM,来验证backbone的不同而造成的影响,可以发现backbone的不同不会导致太大的差异。上图对比了VM、FAIM、以UNet为backbone的Prob-VM和以FAIM为backbone的Prob-VM。

你可能感兴趣的:(医学图像处理,FAIM,医学图像配准,负的雅克比行列式,形变场重叠)