压缩感知（Compressive Sensing）的大致框架流程
这篇文章的主要内容是对http://dsp.rice.edu/cs#talks上部分文献的心得总结，也是对压缩感知（Compressive Sensing）整个流程的一个粗略描述。
Because most signals are compressible，使得压缩感知成为可能。简单的说，2004年Candies，Tao， Donoho几个人提出一种理论[1][2]：如果一个信号可以用一个基（或是冗余基）稀疏表示，则可以用一个和这个基相关性很差的观测矩阵将信号随机投影到低维空间中，即压缩采样。通过凸优化的方法可以以很高的概率精确重构这个信号。目前这项技术比较火爆，像是rice大学DSP组的单像素照相机；图像信号的压缩；Faust用它做过心电信号采集器；在清华这边听说通信专业有人用它做导频信号的压缩等等。
首先是信号的稀疏表示。当信号
在某个基
仅有K<<N个非零系数
时，称 为 的稀疏基，即 （ 与
是Nx1矩阵， 是NxN矩阵）。 （1）
合理地选择稀疏基 ，使得信号的稀疏系数个数尽可能少。常用的稀疏基有正弦基、小波基等。
其次是CS测量编码的模型。在CS编码测量模型中，并不是直接测量稀疏信号 本身，而是将信号 投影到一组测量向量
上而得到测量值y，写成矩阵的形式为
（式中 Nx1矩阵，y是Mx1矩阵， 是MxN矩阵） (2)
结合（1）和（2），可以得到如下： （式中 是MxN矩阵）。 （3）
由于测量值维数M远远小于信号维数N，所以无法直接由求解式（2）从y 解出信号x 。而由于式（3）中 是k稀疏的（k<M<<N），那么利用信号稀疏分解算法可以通过求解式（3）的逆问题得到稀疏系数 [1]，再代回式（1）进一步得到信号 。当然，为了保证算法的收敛性使得K个系数能够由M个测量值准确地恢复，式（3）中矩阵
必须满足受限等距特性（RIP）准则，RIP准则的一种等价的情况是测量矩阵 和稀疏矩阵 满足不相关性的要求[3][4]。
然后是CS解码重构的模型。解码的最直接方法是通过L0范数下求解式（3）的最优化问题从而得到稀疏系数的估计，但是这个求解式一个NP-hard问题。文献[5]表明，L1最小范数下在一定条件下和L0最小范数具有等价性，那么问题的求解就可以转化为L1最小范数下的最优化问题（又称为基追踪BP）。
s.t. （4）
其常用的实现算法有内点法和梯度投影法。内点法得到的结果十分准确而梯度投影法速度快[6]。由于L1最小范数下的算法速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法（MP）和正交匹配追踪法（OMP）[4]。此外，有效的算法还有迭代阈值法以及各种改进算法。
接下来，我在网上找了相关的开源代码实现。发现了港大沙威博士写的一个比较简单效果看上去也不错的开源代码，http://www.eee.hku.hk/~wsha/Freecode/freecode.htm。测量矩阵采用高斯分布白噪声矩阵，使用正交匹配追踪法（OMP）重构信号。在他的个人主页上也公布了他关于这个OMP算法的实现思路。可以算作是压缩感知整个的Hello World程序吧，推荐初学者学习学习。
Reference:
[1] David Donoho, Compressed sensing. (IEEE Trans. on Information Theory, 52(4),pp. 1289 - 1306, April 2006)
[2] Emmanuel Candès, Compressive Sampling. ((Int. Congress of Mathematics, 3, pp.1433-1452, Madrid, Spain, 2006))
[3] Emmanuel Candès, Justin Romberg, andTerence Tao, Robust uncertaintyprinciples: Exact signal reconstruction from highly incomplete frequencyinformation. (IEEETrans. on Information Theory, 52(2) pp. 489 - 509, February 2006)
[4] Joel Tropp and Anna Gilbert, Signal recovery fromrandom measurements via orthogonal matching pursuit. (IEEE Trans. on Information Theory, 53(12)pp. 4655-4666, December 2007)
[5] David Donoho and Yaakov Tsaig, Extensions ofcompressed sensing. (SignalProcessing, 86(3), pp. 533-548, March 2006)
[6] Mário A. T. Figueiredo, Robert D. Nowak,and Stephen J. Wright, Gradient projection for sparse reconstruction: Application tocompressed sensing and other inverse problems. (IEEE Journal of Selected Topics in SignalProcessing: Special Issue on Convex Optimization Methods for Signal Processing,1(4), pp. 586-598, 2007)