稀疏表示与字典学习

一、稀疏性表示与分类(Sparse representation)

二、压缩感知(Compressed sensing)

如果信号在某一个正交空间具有稀疏性（即可压缩性），就能以较低的频率采样该信号，并可能以高概率精确的重建该信号。即用随机采样获取信号的离散样本，然后通过非线性重建算法完美的重建信号。即在采集信号的时候同时完成对信号压缩，通过对信号的高度不完备线性测量达到高精确的重建。

三、字典学习及应用(Dictionary learning)

上图中字典学习目标函数中的第一项表明字典矩阵与稀疏表示的线性组合尽可能的还原样本；第二个累加项表明测量向量应该尽可能的稀疏。

为普通稠密表达的样本找到合适的字典，将样本转化为合适的稀疏表达形式，从而使学习任务得以简化，模型复杂度得以降低，通常称为‘字典学习’（dictionary learning），亦称‘稀疏编码’（sparse coding）”块内容。

求解字典学习最优化问题的步骤为
1.初始化字典D优化稀疏采样W。
2.在优化后的W上更新字典D。
重复上述两步，求得最终D以及X的稀疏表示W。