论文笔记:DnCNNs(Beyond a Gaussian Denoiser: Residual Learning of Deep CNN for Image Denoising)

一、主要目的与贡献

这篇文章主要在传统的去噪神经网络上进行了了改良,提出了新的前馈降噪卷积神经网络(DnCNNs)。

主要的改良方法包括:改用残差学习、加入批量归一化。

效果:提升特定噪声水平的高斯去噪的效果、进一步扩展到一般性的图像去噪任务,即盲高斯去噪、单图像超分辨率、JPEG图像去块。

二、Introduction

批量归一化

与小批量SGD结合使用,在一批图像进入卷积层时,先计算其均值和方差,再进行归一化,然后将归一化后的数据输入卷积层;对于卷积层输出的数据,先通过学习到的输出数据的均值和方差将输出恢复到其原先的分布,再输入激活函数。
参考: 转载-通俗理解BN(Batch Normalization)

三、网络设计

A.网络深度

首先,卷积滤波器大小为3x3,此时深度为d的网络的感受野大小为(2d+1)*(2d+1)。(因为滤波器大小为3x3,所以从最后一层开始的对应的正方形边长为:1、3、5、7…)

为了和补丁大小为36x36的EPLL作比较,选择了和它差不多的感受野,35x35。因此,对应的网络深度即为17((2x17+1)x(2x17+1))。

B.网络架构

网络的输入为y=x+v(噪声观察=干净图像+残差图像),该网络期望学习R(y)=v。

损失函数为预测的残差图象与真实残差图象间的平均均方误差。待学习的参数为各卷积层的卷积核参数。

(1).深层建筑

  • Conv + ReLU:第一层,输入为35x35xc的图像,经过64个3x3x3的卷积核卷积,输出为64张35x35的特征图,即35x35x64的图像。(因为加了padding,所以大小没有变)
  • Conv + BN + ReLU:第(2~(d-1))层,有64个3x3x64的卷积核,所以这些层的输入输出都为35x35x64的图像。在卷积和激活函数间添加批量归一化。
  • Conv:通过c个3x3x64的卷积核,重建c维图像,作为输出。
    参考:多通道卷积运算

(2).减少边界伪像

在该网络中,直接对输入进行零填充策略,神奇的没有出没有边界伪像。

C.残差学习与批量标准化

残差学习更适合identity mapping。而F(y)比R(y)更接近identity mapping。

对比图二在有无RL,有无BN的四种情况下的SGD算法与Adam算法,两种算法都在有RL,有BN的情况下,取得了最好效果。

D.与TNRD的联系

额额,扩展出的TNRD模型还没看,这部分有点看不懂。
待看:Image Denoising State-of-the-art

E.扩展到一般性的图像去噪

一般的方法是先估计噪声水平,再用相应噪声水平的模型。这种方法一是效果一般,二是只适用于高斯噪声分布。
由于该论文的方法采用了残差估计,很方便的扩展到了未知水平的高斯去噪,以及常见的三种一般性的去噪任务。

四、实验结果

A.实验设置

  • DnCNN-S:用于特定噪声水平的高斯去噪,训练数据为三种噪声水平的共计128x1600张40x40的补丁。深度为17.
  • DnCNN-B:用于盲高斯去噪,训练数据为噪声水平在0~55之间的,尺寸为50x50的128x3000个补丁。深度为20。
  • CDnCNN-B:用于盲彩色图像去噪,训练数据为噪声水平在0~55之间的,尺寸为50x50的128x3000个补丁。
  • DnCNN-3:用于三个一般性图像去噪任务,训练数据为生成的噪声图像,下采样图像,压缩图像。深度为20。

C.评估方法

对图像的PSNR的提升效果,以及视觉效果。
PSNR:峰值信噪比 10log10(max^2/MSE)。

你可能感兴趣的:(论文笔记)