具有对称跳跃连接的深卷积编解码网络的图像去噪 读书笔记（下）

转载请注明出处，谢谢。

论文：Image Denoising Using Very Deep Fully Convolutional Encoder-Decoder Networks with Symmetric Skip Connections

                                             作者： Xiao-Jiao Mao, Chunhua Shen, Yu-Bin Yang

四、实验部分

针对现有的几种先进的去噪方法，对模型的去噪性能进行了评价。

进行去噪实验的两个数据集：

1.14个通用基准图像，如下：

 

2.BSD数据集

作为文献中常用的实验背景，在图像中加入了均值为0和标准差为的加性高斯噪声，以检验去噪方法的性能。

论文对σ为10、30、50和70的噪声级进行了测试，并将其他论文中的方法BM3D、NCSR、EPLL、PCLR、PDPD和WMMN与论文中提出的RED-Net进行了比较。对于其他论文中的方法，使用它们的作者发布的源代码，并使用它们的默认参数对图像进行测试。计算了峰值信噪比(PSNR)和结构相似度(SSIM)指标,并提供了视觉质量指标。

论文实现了网络的三个版本：

RED10：5个卷积层和5个反卷积层，不带shortcuts(指没有跳跃连接，网络不深，没有必要使用)。

RED20：10个卷积层和10个反卷积层，带shortcuts,每隔两层卷基层反卷积层对带一个跳跃连接(step size 2 of shortcuts）。

RED30：15个卷积层和15个反卷积层，带shortcuts,每隔两层卷基层反卷积层对带一个跳跃连接（step size 2 of shortcuts）。

4.1 跳跃连接分析（带有跳跃连接skip connections的网络成为带有shortcuts的网络）

1. 有无shortcuts研究

训练集上，网络变得比较深且没有跳跃连接时，损失会增加；网络变得比较深但是有跳跃连接时，损失会减小。

验证集上，没有跳跃连接的深度网络得到了较低的PSNR，甚至观察到了30层网络的过拟合；但是当网络越深时，使用快捷键可以获得更高的PSNR和更好的泛化能力。

 

2. shortcuts的步长研究

正如我们所看到的，较小步长的shortcuts比较大的shortcuts具有更好的性能(训练损失更小，PSNR值更大)。

其原因可能是由于较小步长的shortcus使得梯度更容易反传到底层，从而更好地解决了梯度消失的问题，同时，小步长的shortcuts本质上是传递了更直接的信息。

4.2 去噪结果和分析

首先，10层卷积和反卷积网络已经取得了比现有的先进方法更好的效果，这证明了卷积和反卷积相结合的去噪效果很好，即使没有跳过连接。（网络加深，并且使用shortcuts的网络效果更好）

可以从表中观察到，噪声越复杂，论文的模型比其他方法得到的改进就越多，在SSIM的评估上也可以进行类似的观察。
 

详细情况：