p2范数优化问题
压缩感知理论在图像压缩编码等方面也应该有很广泛的前景, 但由于信号的恢复方法是建立在12范数意义下, 数据之间还有很大的冗余性没有去除, 相比传统的小波变换编码, 压缩感知理论应用于图像压缩的效果还不理想. p2范数的优化是提高基于压缩感知理论的压缩算法效果的必经之路. p2范数的优化方法是一个公开问题( open problem) , 对它的研究将推动压缩感知理论在压缩方面的应用, 具有很深远的意义. p2范数意义下的优化问题是一个凸函数优化问题, 目前已有一些成熟的算法, 但p2范数的优化是一个非凸函数的优化问题, 其中有很多数学问题有待解决. 有关p2范数非凸函数优化问题, 也有一些学者开展研究. 如RickChartrand[用典型的合成数据做了一些实验, 表明在一定的稀疏误差范围内, 可以得到最小值. 在文献[1]中,他进一步给出了变换基空间内的系数严格的等距条件(restricted isometry) , 由于有了严格的约束, 完全适合于大多数实际的信号. 笔者期望通过借用自然优化计算以及将p2范数非凸函数转换为近似凸函数优化等方法, 提出一种新的求解p2范数范数的优化问题, 以实现在p2范数意义下的压缩感知理论的信号恢复, 最大可能减少信号的冗余. 该思路正在研究之中.
观测矩阵与恢复性能关系
前面提到, 观测矩阵与稀疏变换基的不相干特性是压缩感知理论具有良好性能的基础. 由于随机高斯分布的观测矩阵具有与其它固定基都不相关的特性而被广泛采用. 但在实际的应用中, 这种观测矩阵存在存储矩阵元素容量巨大、计算复杂度高的缺点 . 文献[2] 提出一种部分傅立叶变换采样的方法. 它首先对信号进行傅立叶变换再对变换系数进行随机抽取. 这种随机抽取使得各观测值具有随机不相关的特性. 由于变换时可以采用快速算法而使得计算量大大降低. 但由于傅立叶基仅与在空域稀疏的信号不相干, 故这种观测矩阵的应用范围受到很大的限制. 此外, 采用随机滤波器滤波 也是一种有效的观测方法, 不过目前仍缺乏理论基础, 也缺少对其性能的详细分析. 文献[ 3]将伪高斯矩阵和部分傅立叶方法巧妙的结合在一起,提出了一种结构化的随机观测矩阵设计方法, 这种观测矩阵具有与所有基不相干的特性, 同时也有较快的计算速度.
总结以上的工作可以得出如下结论: 观测矩阵的随机不相关特性是正确恢复信号的一个充分条件, 观测矩阵和信号的高度不相干是有效恢复信号的保证.但是, 现在仍然无法确定随机不相关特性是否是最优恢复信号的必要条件, 这仍是一个公开问题. 另外, 如何衡量观测矩阵的不相干特性, 以及它们与恢复性能之间的关系也是一个尚未解决的问题.
另外, 自适应的观测矩阵设计也是观测矩阵设计的一个重要方面. 在众多有关压缩感知理论的文献中,大部分的观测矩阵都是预先设计好的, 不需要根据观测信号而自适应变化. 实际上, 如果能够进行自适应的观测, 压缩感知的压缩性能可以得到进一步的提高. 在文献[ 4] 中, 作者用Bayes 估计的观点对压缩感知做出了一种全新的解释. 在文献中, 压缩感知的解的可信度可以通过微分熵来衡量, 这样在已有观测的基础上, 下一次最优的观测向量应该使问题解的微分熵下降最快, 它可以由已有的观测向量和观测值唯一确定. 而
且, 幸运的是这一特性在编码端和解码端是同样的. 由于对观测矩阵的最优化设计,Bayesian CS 与使用普通的随机观测矩阵相比, 在同等观测次数的情况下, 性能得到了很大的提高. 当然这也付出了一定的代价, 计算最优观测向量需要很大的计算量, 所以能够简捷有效地确定最优观测向量仍是这方面的一个有待解决的问题.
分布式压缩感知理论( Distr ibuted CompressedSensing, DCS)
目前, 针对单个信号的压缩感知的研究和应用已经开展得比较深入, 但是对分布式信号的处理仍然研究得不够. 例如, 对于一个包含大量传感器节点的传感器网络, 每个传感器都会采集大量的数据, 这些数据将会传输到一个控制中心, 也会在各个节点之间传输. 显然, 在这种分布式传感器网络中, 数据传输对功耗和带宽的需求非常大, 那么, 如何对分布式信号进行压缩以减少通信压力成为非常紧迫的需求.
2006年,Haupt 和Nowak 将压缩感知理论应用到多个信号的环境中 , 然而他们的方法仅研究了多个信号的互相关性, 却没有考虑单个信号的内相关性. Baron等人在压缩感知理论的基础上提出了分布式压缩感知(DCS) [ , 进一步扩展了压缩感知理论的应用, 将单信号的压缩采样扩展到了信号群的压缩采样, 它着重研究如何利用信号内相关性和互相关性对多个信号进行联合重构. 这种联合重构的重要意义在于, 相对于压缩感知, 分布式压缩感知可节约相当可观的观测数目. 文献[ 5] 中的实验结果表明对于两个相关的信号可节约的观测数目大约为30%.
DCS 理论建立在一个称之为信号群的/ 联合稀疏( JSM) 0概念上.它指出, 如果多个信号都在某个基下稀疏, 并且这些信号彼此有关, 那么每个信号都能够通过利用另一个不相关基( 例如一个随机矩阵) 进行观测和编码, 得到远少于信号长度的编码. 将每个编码后的少量数据传输到解码端, 那么在适当的条件( 如JSM21)下, 解码端利用接收到的少量数据就能够精确重建每一个信号.
文献[ 5] 系统地阐述了DCS 理论及其应用, 提出了相应的压缩感知方法及恢复算法, 并采用稀疏的随机投影矩阵作为观测矩阵, 详细分析了分布式压缩感知理论的观测过程, 而文献[ 6] 则从重构误差估计的角度对分布式压缩感知理论进行了研究.
DCS 理论为分布式信号的处理提供了新的方法, 目前的热点和难点主要集中在如何将其应用到各种复杂的实际传感器网络中. 在某种意义上, DCS 是一种分布式信源压缩的框架, 它在很长时间内都将是一个具有挑战性的公开难题.
[1] R Chartrand. Exact Reconstruction of Sparse Signals via Non2convex Minimization [ J ] . IEEE Signal Processing Letters.2007, 14( 10) : 7072710.
[2] E J Candes, J Romberg. Sparsity and incoherence in compres2 sive sampling[ J] . Inverse Problems. 2007, 23( 3) : 9692985.
[3] T T Do, T D. Tran , L Gan. Fast compressive sampling with structurally random matrces [ OL] .
[4] S Ji, Y Xue, L Carin. Bayesian compressive sensing[ J] . IEEE Transactions Signal Processing, 2008, 56( 6) : 234622356.
[5] D Baron, M B Wakin, M Duarte, etc. Distributed compressed sensing [ OL ] . DCS112005.
[ 6] W Wang, M Garofalakis, K Ramchandran. Distributed sparse random projections for refinable approxim2ation[ A] . Proceed2ings of the Sixth International Symposium on Information Pro2
cessing in Sensor Networks, ( IPSN2007) [C] . New York: As2sociation for Computing Machinery, 2007. 3312339.