【Unet系列】(三)Unet++网络

一、UNet++整体网络结构

Unet++主要是探索encoder和decoder需要多大的问题,以此为基础,提出了融合不同尺寸Unet结构的网络。创新点就是把不同尺寸的Uent结构融入到了一个网络里。
【Unet系列】(三)Unet++网络_第1张图片

二、结构的好处

(1)不管哪个深度的特征有效,都用上,让网络自己去学习不同深度特征的重要性。
(2)共享了一个enconder,也就是说,不需要训练一推Unet,而是只训练一个encoder,它的不同层次特征由不同的decoder路径来还原。

三、存在的问题

无法训练,因为不能进行反向传播。解决方法有如下两种:
(1)使用短连接。
在这里插入图片描述
(2)在短连接的基础上使用deep supervision。
在这里插入图片描述
在图中X0,1、X0,2、X0,3、X0,4后面加一个1*1的卷积核,相当于去监督每个分支的Unet的输出。这样可以解决无法训练的问题。

四、优点:

可以更容易剪枝,因为前面也单独有监督训练,可以根据速度要求来快速完成剪枝。
在这里插入图片描述
为什么可以剪枝?
在测试阶段,由于输入的图像只会前向传播,扔掉这部分对钱面的输出完全没有影响的,而在训练阶段,因为既有前向,又有后向传播,被剪掉的部分是会帮助其它部分做权重更新的。即测试时,剪掉部分对剩余结构不做影响,训练时,剪掉的部分对剩余部分有影响。

(五)剪枝的好处

【Unet系列】(三)Unet++网络_第2张图片
剪枝的好处是:如果低尺度的Uent++训练的效果和高尺度的Unet++训练的效果相当,则只训练低尺度的,这样在训练时会减少参数,加快训练速度。

你可能感兴趣的:(#,U-Net网络模型,深度学习,神经网络,人工智能)