图像超分辨率近两年几篇优秀论文及代码
最近看了很多图像超分辨率方面的文章，所以做一个总结，希望对大家有所帮助。所列出的文章都是很好的文章，其中包括一些顶级会议：CVPR,ICCV,ECCV等。其中有代码的我会给网址，还有的代码不公布。最后会做一个经验总结，还有关于深度学习框架的选择，给新手一些建议。
SRCNN
Image Super-Resolution Using Deep Convolutional Networks
最早的使用深度学习做图像超分辨率的文章，香港中文大学汤晓鸥团队的成果，其学生徐立是商汤科技的总裁。 代码地址：http://mmlab.ie.cuhk.edu.hk/projects/SRCNN
预处理：Bicubic 先下采样，后上采样作为输入图像
图像空间：Ycbcr
训练样本：91images(24800sub-images)+imagenet(5 million sub-images)
Scalingfactor:2,3,4
学习率： 前两层，最后一层
参数初始化方法：高斯分布（均值为0，标准差为0.001，偏置为0）
误差减小方式：随机梯度下降
VDSR
Accurate Image Super-Resolution Using Very Deep Convolutional Networks
用残差将网络做的很深，在当时首先将残差应用到超分辨率领域，比较具有创新性，效果也较好。但是视觉效果并不是很少，细节恢复较差。
代码地址：https://cv.snu.ac.kr/research/VDSR/
除了输入和输出都是3*3*64的滤波器
预处理：bicubic先下采样，后上采样作为输入图像
图像空间：Ycbcr
训练样本：291images,data augmentation(rotation or flip),多尺度的（2,3,4）
Scalingfactor:适用于多个scale factor,训练时同时用的2,3,4，测试2,3,4中任意一个都可以。
技巧：0填充保持输出图像大小不变。
是否残差：残差
学习率：0.1(20代)，每20代下降10倍
参数初始化方法：Delving deep into rectifiers: Surpassing human-level performance onimagenet classification中提到的初始化方式，适用于Relu.
误差减小方式：adjustable gradient clipping
其他参数：batch size:64,momentum:0.9,weight decay:0.0001
LapSRN
Deep Laplacian Pyramid Networks for Fast and Accurate Super-Resolution
使用拉普拉斯金字塔结构，各方面效果超过VDSR。
代码地址：http://vllab.ucmerced.edu/wlai24/LapSRN/
卷积层：每一个level 3,5,10,15
预处理：bicubic下采样
图像空间：
训练样本：91+291
Scalingfactor:适用于2,4,8
技巧：0填充,解卷积层/转置卷积
是否残差：残差
激励函数：(LReLUs)leaky rectified linear units
学习率： ，每50代下降100倍
参数初始化方法：Delving deep into rectifiers: Surpassing human-level performance onimagenet classification中提到的初始化方式，适用于Relu.
解卷积层的参数用bilinear filter 初始化
误差减小方式：charbonnier penalty function
其他参数：batch size:64 momentun:0.9 weight decay:0.0001
FSRCNN
Accelerating the Super-Resolution Convolutional Neural Network
SRCNN之后出的一篇，一个作者做的，效果比SRCNN好，比VDSR差，但run time 是其一大优势。
代码地址：http://mmlab.ie.cuhk.edu.hk/projects/FSRCNN.html
预处理：bicubic上采样
图像空间：Ycbcr
训练样本：91+100
Scalingfactor:每一个scale，单独训练模型
技巧： 0填充，高分辨率率和低分辨率图像块的大小,解卷积
是否残差：非残差
激励函数：Parametric Rectified Linear Unit(PReLU)
学习率： 卷积层0.001，解卷积层0.0001，fine-tuning时，所有的学习率变为一半
参数初始化方法：0均值，方差为0.001的高斯分布随机
误差减小方式：最小均方误差
其他参数：
还有的一些优秀的文章有：
- Deeply-Recursive Convolutional Network for Image Super-Resolution (CVPR2016), Jiwon Kim et al.
- Real-Time Single Image and Video Super-Resolution Using an Efficient Sub-Pixel Convolutional Neural Network (CVPR2016), Wenzhe Shi et al.
- Enhanced Deep Residual Networks for Single Image Super-Resolution (Winner of NTIRE2017 Super-Resolution Challenge), Bee Lim et al.（目前用卷积神经网络做的最好的一篇了）
目前比较火的GAN的方法：
- Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network (CVPR2017), Christian Ledig et al.
- AMORTISED MAP INFERENCE FOR IMAGE SUPER-RESOLUTION (ICLR2017), Casper Kaae Sønderby et al.
个人感悟：超分辨率如果用一般指标如PSNR和SSIM来衡量并不能完全代表视觉上的效果。PSNR用二范数去约束就会得到很高的值，SSIM用注重细节的恢复也可以达到很高的值。如果想用CNN做可以参考Enhanced Deep Residual Networks for Single Image Super-Resolution (Winner of NTIRE2017 Super-Resolution Challenge), Bee Lim et al.
GAN给了一种很好的思路，可以恢复出很好的视觉效果。但GAN的方法目前几乎没有公布代码的，如果想做只能自己写代码了。
框架选择：对新手来说，caffe是一种很好上手的框架，但是里面的loss function除非修改源码，不然默认就是二范数。tensorflow 是一个万金油的框架，除了计算机视觉还适合处理其他领域的问题，而且受众广，社区大。torch也是一种很方便的框架，会python的人用pytorch会很顺手。其他一些框架没用过，也没用经验，就不多介绍。