2019压缩感知重建算法总结

本人为研一学生，在此想对自己近一年来看的论文做一个梳理
1.背景介绍
2006 年，论文“Compressed Sensing”的发表标志着 CS 理论框架正式被提出 [1] . Donoho 等研究者指出，针对稀疏或可压缩信号，可以采用非线性采样，在采样的同时对数据进行压缩，提高传感器的采样效率，同时也避免大量冗余数据被保留而占用有限的储存资源 .

基于压缩感知非相关矩阵获取的投影测量值的数据量远远小于传统采样方法所获的
数据量，这不仅突破了采样定理对精确重构信号时采样频率的限制，而且提高了数据采
集端的采样、储存及传输效率 [2-3] . 尤其是针对搭载在飞机或卫星上的传感器采集系统而
言，压缩感知理论减少了大量数据的存储空间，提高了的传输效率和传感器的利用效
率. 压缩感知理论指出，信号或图像精确重建必须满足以下三个条件 [4] ：
（1）稀疏性，即在某种变换域下信号或图像可被稀疏表示；
（2）测量矩阵满足限制等容性准则（Restricted Isometry Property，RIP）条件，即要满
足与信号本身是互不相干的；
（3）通过非线性优化的重建模型精确重建.

2.压缩感知重建算法介绍
压缩感知重建算法可以大致可以分为两种，手工设计和数据驱动，用大白话来解释的话，可以认为是经典的迭代算法，和近些年来基于深度学习的重建算法，如下图

接下来我会挑选几种具有代表性的论文进行逐一讲解

1压缩感知的稀疏重建模型
这里一般分为三种：凸优化，贪婪迭代，最小全变分法
1.1 凸优化算法
在稀疏重建模型中，Candès 指出可以把复杂性和不稳定性较高的 l 0 范数最优化问
题转化为等价的 l 1 范数最优化问题，通过不断寻找 l 1 范数最小的x軇来逼近我们压缩采样
得到的信号 y，当 l 1 范数不再减少时，方程组求解成功. 这种思路就引出了著名的基追
踪方法（Basis Pursuit，BP），其计算复杂度为 O（N 3 ）2007 年，Figueiredo 等人在梯度下降法的基础上提出了著名的稀疏梯度投影法（Gradient Projection for Sparse Reconstruction，GPSR），该算法受初始值的影响较小，而且通过调整正则因子可以有效提升算法的重建速度 [34] . 除此以外，典型的凸优化算法还包括迭代收缩算法（iterative shrinkage thresholdingalgorithm，ISTA）、快速迭代收缩算法（fast iterative shrinkage thresholding algorithm，FISTA） 、分裂 Bregman 迭代算法（Split Bregman Iteration，SBI）算法 [37] 和交替方向乘子（Alternating Direction Method of Multipliers，ADMM）
[38] 等.
1.2贪婪迭代算法
贪婪算法出现的时间较早，解决的是最小 l 0 范数问题，求解时利用迭代算法通过减
少残差寻找信号或图像的最稀疏表示. 最典型的贪婪算法是匹配追踪算法（MP），由
Mallat 等人提出 [39] . 随后，Troppj 引入正交的思想，通过递归对己选择原子集合进行正
交化以保证迭代的最优性，提出了正交匹配追踪算法（OMP） . 为了缩小运算时间，提高
重建精度，增强重建信号对噪声的鲁棒性，在 2009 年，Needell 等人在 OMP 的基础上
提出了正则正交匹配追踪（Regularized Orthogonal Matching Pursuit，ROMP）算法 和压缩
采样匹配追踪（Compressive Sampling Matching Pursuit，CoSaMP）算法 . 同年，Donoho
等人提出了一种对稀疏度 K 自适应的稀疏自适应匹配追踪（Sparsity Adaptive Matching
Pursuit，SAMP）算法 ，可以在 K 未知的情况下获得较好的重建效果，速度也远快于
OMP 算法.
1.3最小全变分法
最小全变分法求解的是公式（4）梯度稀疏问题. Candès 等研究者从大量自然图像的
离散梯度都是稀疏的角度出发，提出了针对图像重构的最小全变分法 [44] .
目标函数 x
TV 为图像离散梯度之和，即

该问题的求解可以转换为二阶锥规划问题. 最小全变分模型可以有效地解决图像压缩重
构问题，重构结果精确而且鲁棒，但是运算速度较慢.
2压缩感知的低秩重建模型**
这里的经典算法是NLR_CS算法
这篇文章很重要，是低秩模型的一个成功应用
3压缩感知深度网络模型
这里的几篇经典算法是SDA，Recon_net,DR2-net,ADMM_net等等
1.A deep learning approach to structured signal recovery（SDA）2015

stacked denoising autoencoder (SDA), as an unsupervised feature learner. SDA
enables us to capture statistical dependencies (统计相关性)between the different elements of certain
signals and improve signal recovery performance as compared to the CS approach.

2.ReconNet:Non-Iterative Reconstruction of Images from Compressively Sensed Measurements2 016

we propose a novel convolutional neural network (CNN) architecture which takes in CS
measurements of an image as input and
outputs an intermediate reconstruction(中值重建).We call this network, ReconNet.The intermediate reconstruction is
fed into an off-the-shelf denoiser to obtain the final reconstructed image.

3.DR2-Net:Deep Residual Reconstruction Network for Image Compressive Sensing2017
线性网络加残差映射
由于时间关系需要慢慢填坑，接下来的部分我会继续慢慢填坑的