CUR矩阵分解（对比SVD）

CUR矩阵分解

简单回顾一下SVD分解

提到矩阵分解，相信大家最熟悉的一定是SVD分解，但是SVD分解有两个缺点：

1. 可解释性较差：对于SVD分解，大家通常的理解应该是，左奇异向量以及右奇异向量分别张成了原始矩阵所在的列空间以及行空间，但是对于原始矩阵而言，并没有较强的可解释性。
2. 太过密集：就算原始矩阵是一个稀疏矩阵，该矩阵所分解而成的U、V矩阵仍然是高度密集的，这在某些应用场景下是难以接受的。

与SVD相比，CUR分解的可解释性大大加强了。

CUR矩阵分解

对于一个矩阵 A ，我们能否将它分解为 只包含 A 中的一些行和列的组合呢？

更具体地讲，对于一个秩 k 矩阵 A ，如果我们选择其中 k 列张成矩阵 A 的列空间，选择其中 k 行张成矩阵 A 的行空间，那么我们也应该能够通过组合这些线性映射来恢复原矩阵。

定理： 对于$A\in K^{m\times n}$, $rank\left(A\right)=k$，并且有 $I\subset \left[m\right]$ , $J\subset \left[n\right]$, $\left|I\right|=t\ge k$, $\left|J\right|=s\ge k$, 令$C=A\left(:,J\right)$, $R=A\left(I,:\right)$, $U=A\left(I,J\right)$, 如果$rank\left(U\right)=rank\left(A\right)$，那么$$A=C{U}^{†}R$$

证明：

1. 在$rank\left(U\right)=rank\left(A\right)$的约束下，我们能得到$rank\left(C\right)=rank\left(R\right)=rank\left(A\right)$。因此，必定存在$X$，使得$A=CX$。
2. 假设 $P_I$ 代表根据索引集 $I$ 选择 $A$ 中特定行的行选择矩阵，那么，$P_{I}A=R$，同样地，$P_{I}C=U$，从而有了一下推导：
   第一个等价关系的正向过程很明显成立，其逆向过程是由于$rank\left(C\right)=rank\left(R\right)=rank\left(A\right)$这个假设前提，在此基础上，$P_I$ 的作用就相当于是消除了 $A$ 中那些对其他行有依赖关系的冗余行，所以第一个等价关系的逆向过程成立。
3. 根据 $R=UX$，得$X=U^{†}R$，结合第一步中的$A=CX$，就得到$A=C{U}^{†}R$。

为了更加直观的理解记忆CUR矩阵分解，大家可以看下面这张图。

图中红色代表所选择的列，蓝色代表所选择的行，U就是这些行和列的交叉点，在图中用紫色表示。

从图中我们可以看出，CUR分解就像是找出了一个矩阵的 “骨架” ，这个骨架体现了这个矩阵最主要的信息。

以上就是对CUR分解的简单介绍。