frame：线性代数中基（basis）的扩展

这个概念最开始是在压缩感知理论里面看到的，由于压缩感知是机器学习中一个重要的方向，所以这里把这个基础概念拿出来讲一讲。

基础知识回顾

基（basis）：对于向量空间V，其中的一组基就是V中的向量，其可以张成整个向量空间V（V中所有向量都能由basis中的向量线性表示），并且basis中的所有向量都线性独立

frame简单定义及intuition

一句话概括，frame就是不需要线性独立的basis。即frame也是由向量空间中V中的一组向量组成的，其可以张成整个向量空间V。

那为什么要搞出frame这个东西来单独研究呢？因为我们有时候不希望张成向量空间V的一组向量线性独立。

以压缩感知为例，其基本任务是，对于 n 维向量 x ，找到一个 n×m 维字典 Φ 和其对应的一组 m 维稀疏编码 c ，使得 x=Φc 。这时，如果 Φ 是n位空间中的一组基（蕴含 m=n ），则这个编码c就是唯一的（向量空间V中的任何向量都可以以其中的一组基，用一组唯一的系数表示）。这样的话，如果要求c的稀疏性，就对我们选择的这组基要求太高了。反之，如果 m>n ，即这是个frame，则c就不是唯一的，这样对我们的字典（即frame）的要求就不那么高，就更好操作。

正式定义及解释

一个frame就是d维向量空间中的一组向量 {ϕi}ni=1 ，其中 d<n ，其对应一个矩阵 Φ∈ℝd×n 。对所有 x∈ℝd 满足：

A||x||22⩽||ΦTx||22⩽B||x||22

其中， 0<A⩽B<∞ 。

定义结束，下面是解释。

这里， 0<A 蕴含着：
（1） {ϕi}ni=1 可以张成整个d维向量空间。否则，至少存在一个非零的向量v，正交于所有 ϕi 。于是 A||x||22⩽0⩽B||x||22 ， A≤0 ，与 0<A 矛盾。
（2） Φ 的所有行之间线性独立。否则，一定存在一个x，使得 ΦTx=0 ，造成跟（1）中一样的矛盾。

另外，上式还在一定程度上限制了frame中向量的个数。即可以张成整个向量空间V的一组向量，不一定是一个frame。比如，对于二维线性空间中的如下无限向量序列：

{(0,1),(1,0),(0,12‾‾√,(13‾‾√,1),...}

显然，其可以张成整个二维向量空间，但是：

||ΦT(0,1)T||22=∑k|<ϕk,(0,1)|2=0+1+12+13+⋯=∞

无法找到定义中需要的B，所以其不是一个frame

应用于压缩感知

回到 x=Φc 这个压缩感知的问题。如果有了 Φ ，我们可以直接求其伪逆，从而得到c。即求： Φ̃ =(ΦΦT)−1Φ ，其满足 Φ̃ Φ=I 。而 Φ̃  又叫做dual frame。

于是， c=Φ̃ x