稀疏表示

1 背景

    参考资料[1]指出，数据的稀疏和冗余表示建模可以将信号描述为预先规定的字典中的少数原子的线性组合。

    参考资料[4]指出，信号稀疏表示的目的就是在给定的超完备字典中用尽可能少的原子来表示信号，可以获得信号更为简洁的表示方式，从而使我们更容易地获取信号中所蕴含的信息，更方便进一步对信号进行加工处理，如压缩、编码等。

    参考资料[4]指出，信号稀疏表示的两大主要任务就是字典的生成和信号的稀疏分解，对于字典的选择，一般有分析字典和学习字典两大类。

2 字典生成

    参考资料[1]指出，字典的选取对于信号的建模是至关重要的。通常可采用两种方法选取一个合适的字典：1）基于数据的数学模型建立稀疏字典；2）选择在训练集上有最佳表现的学习字典。

2.1.分析字典

    常用的分析字典有小波字典、超完备DCT字典和曲波字典等，用分析字典进行信号的稀疏表示时，虽然简单易实现，但信号的表达形式单一且不具备自适应性。

2.2 学习字典

    学习字典的自适应能力强，能够更好的适应不同的图像数据。

    在目前的研究中，常用的学习字典的方法包括：Engan于1999年提出的最优方向（Method Of Optimal Directions,MOD）算法，该算法是学习字典的鼻祖，它的字典更新方式简单，但与此同时，它的收敛速度很慢。

    在MOD算法的基础上，一些研究人员同时还提出了一些其它的字典学习算法，如FOCUSS字典学习算法，广义PCA（Generalized PCA）算法等等。Micheal Elad于2006年提出了基于超完备字典稀疏分解的K-SVD算法，该算法相较于MOD算法，收敛速度有了很大的提高，但是随着噪声的逐渐加大，使用该算法进行去噪后的图像因纹理细节的丢失会产生模糊的效果；Mairal于2010年提出了一种online字典学习算法，该算法速度较快且适用于一些特殊的信号处理，例如视频信号，语音信号等等。

3 稀疏分解

3.1 起源与分类

    参考资料[4]指出，稀疏分解算法首先是由Mallat提出的，也就是众所周知的匹配追踪算法（Matching Pursuit,MP）算法，该算法是一个迭代算法，简单且易于实现，因此得到了广泛的应用。随后，Pati等人基于MP算法，提出了正交匹配追踪算法（Orthogonal Matching Pursuit,OMP），OMP算法相较于MP算法，收敛速度更快。在以后的研究中，为了改进OMP算法，学者也提出了各种不同的其它算法，例如：压缩采样匹配追踪（Conpressive Sampling Matching Pursuit,CoSaMP）算法、正则化正交匹配追踪（Regularized Orthogonal Matching Pursuit,ROMP）算法、分段式正交匹配追踪（Stagewise OMP,StOMP）算法、子空间追踪（Subspace Pursuit,SP）算法等等。

3.2 来

 

参考资料
[1]稀疏表示的字典_文献翻译

[2]稀疏表示字典训练方法及应用

[3]稀疏表示（sparse representation）和字典学习

[4]稀疏表示_百度百科

[5]图像的稀疏表示——ScSPM和LLC的总结 

[6]稀疏表示的人脸识别完整MATLAB可运行全套代码

[7]稀疏表示

[8]稀疏表示概述