Bio-Net：编解码器结构的循环双向连接网络

目录

摘要

方法

循环双向跳跃连接

前向跳跃连接

后向跳跃连接

递归的推断训练

BiO-Net网络结构

总结

---

摘要

对UNet以前的扩展主要集中对现有模块的改进或者提出新的模块来提高性能。因此这些变量通常会导致模型的复杂性不可忽视的增加。为了解决这种复杂性的问题。在本文中提出了一种新的双向O型网络BiO-Net，它以循环的方式重用模块，而不用引入任何额外的参数。本文提出的双向跳过连接可以直接用于任何编码器-解码器结构

BiO-Net通过一种新的特征重用机制提高了UNet的性能，这个机制在编码器和解码器之间建立的双向连接，以递归的方式进行训练

BiO-Net通过后向跳跃连接将将解码的特征映射回编码器，并在编码器和解码器之间进行递归。与以往的工作相比，我们的方法实现了更好的特征细化，因为我们的BiO-Net触发了多个编码和解码过程。

方法

本文提出的方法如下图所示：

网络以O形方式进行递归训练 ，整体网络结构与UNet网络结构基本相似，但是其采用了成对的双向连接。

循环双向跳跃连接

这个网络结构的主要创新之处在于引入了双向跳跃连接，这有助于编码器处理解码器中的语义特征。

前向跳跃连接

前向跳跃连接将编码器和解码器连接在同一级别，可以保留编码后的低级视觉特征Fenc，其梯度能够得到很好的保留。因此第l个解码器可以将这个低级视觉特征Fenc与它的上一个块生成的输入进行融合并通过解码卷积DEC生成Fdec，再通过上采样恢复到更高分辨率的特征图。这个过程用公式可以表述为：

后向跳跃连接

向后跳跃连接将解码后的高级语义特征Fdec从解码器传递到编码器，编码器可以将fdec与之前块产生的原始输入Xin结合起来。因此实现了低级视觉特征和高级语义特征的灵活聚合用公式表示为

 

下采样模块将fenc送入后续编码器进行更深层次的特征提取。

递归的推断训练

上述的上向跳跃连接为编解码器结构创建了O形推断训练，这种o形推断路由可以被递归多次以获得即时的性能提升，更重要的是，这种递归传播策略不会引入任何额外的可训练参数。因此，配备了我们提出的o形连接的编码器和解码器的输出，根据它们当前的推理迭代i可以证明如下:

与普通的UNet相比，本文的网络架构同时考虑了编码和解码的特征，并根据先前迭代的特征进行细化

BiO-Net网络结构

输入图像首先被输入到三个卷积块的序列中以提取低级特征。请注意，第一阶段块没有附加向后跳过连接，因此，递归时第一阶段块中的参数将不会被重用。然后将提取的特征发送到级联编码块，利用最大池来进行特征下采样。在编码阶段，参数被重用，块通过如图1所示的成对的正向和反向连接递归。在编码阶段之后，中间阶段包含用于进一步细化编码特征的卷积块。

然后特征随后被传递到一系列的解码模块中，使用卷积转置操作恢复编码的细节，在解码阶段，我们提出的向后跳过连接通过将检索到的特征来自同一级别编码器的特征连接起来来保留检索到的特征。递归从解码阶段的最后一个卷积块生成的输出开始。

 递归编码和解码阶段之后，更新后的输出将为送入的最后一级块对应于第一级块。

总结

 BiO-Net是U-Net的一种紧凑的替代方案，具有更好的性能，并且没有额外的可训练参数，它利用成对的前向和后向跳过连接来构成编码器和解码器之间的复杂关系。该模型可以在训练和推理过程中递归重用参数。