奇异值分解（SVD）方法求解最小二乘问题

1 奇异值分解(SVD)原理

详解参考：奇异值分解（SVD）方法求解最小二乘问题的原理

1.1 回顾特征值和特征向量

我们首先回顾下特征值和特征向量的定义如下：

$$Ax=\lambda x$$
其中A是一个n×n的实对称矩阵，x是一个n维向量，则我们说λ是矩阵A的一个特征值，而x是矩阵A的特征值λ所对应的特征向量。

求出特征值和特征向量有什么好处呢？ 就是我们可以将矩阵A特征分解。如果我们求出了矩阵A的n个特征值${\lambda }_1\le {\lambda }_2\le ...\le {\lambda }_n$,以及这n个特征值所对应的特征向量$w_1,w_2,...,w_n$，如果这n个特征向量线性无关，那么矩阵A就可以用下式的特征分解表示：

$$A=W\Sigma W^{-1}$$
其中W是这n个特征向量所张成的n×n维矩阵，而Σ为这n个特征值为主对角线的n×n维矩阵。
一般我们会把W的这n个特征向量标准化，即满足$||w_i|{|}^2=1$, 或者说$w_i^T{w}_i=1$，此时W的n个特征向量为标准正交基，满足$W^{T}W=I$，即$W^T=W^{-1}$, 也就是说W为酉矩阵。

这样我们的特征分解表达式可以写成
$$A=W\Sigma W^T$$
注意到要进行特征分解，矩阵A必须为方阵。那么如果A不是方阵，即行和列不相同时，我们还可以对矩阵进行分解吗？答案是可以，此时我们的SVD登场了。

1.2 SVD的定义

SVD也是对矩阵进行分解，但是和特征分解不同，SVD并不要求要分解的矩阵为方阵。假设我们的矩阵A是一个m×n的矩阵，那么我们定义矩阵A的SVD为：
$$A=U\Sigma V^T$$
其中U是一个m×m的矩阵，Σ是一个m×n的矩阵，除了主对角线上的元素以外全为0，主对角线上的每个元素都称为奇异值，V是一个n×n的矩阵。U和V都是酉矩阵，即满足$U^{T}U=I,V^{T}V=I$。下图可以很形象的看出上面SVD的定义：

1.3 求出SVD分解后的U,Σ,V矩阵

如果我们将A的转置和A做矩阵乘法，那么会得到n×n的一个方阵$A^{T}A$。既然$A^{T}A$是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$$(A^{T}A)v_i={\lambda }_i{v}_i$$
这样我们就可以得到矩阵$A^{T}A$的n个特征值和对应的n个特征向量v了。将$A^{T}A$的所有特征向量张成一个$n\times n$的矩阵V，就是我们SVD公式里面的V矩阵了。一般我们将V中的每个特征向量叫做A的右奇异向量。

如果我们将A和A的转置做矩阵乘法，那么会得到m×m的一个方阵$A{A}^T$。既然$A{A}^T$是方阵，那么我们就可以进行特征分解，得到的特征值和特征向量满足下式：
$$(A{A}^T)u_i={\lambda }_i{u}_i$$
这样我们就可以得到矩阵$A{A}^T$的m个特征值和对应的m个特征向量u了。将$A{A}^T$的所有特征向量张成一个$m\times m$的矩阵U，就是我们SVD公式里面的U矩阵了。一般我们将U中的每个特征向量叫做A的左奇异向量。

U和V我们都求出来了，现在就剩下奇异值矩阵Σ没有求出了。由于Σ除了对角线上是奇异值其他位置都是0，那我们只需要求出每个奇异值σ就可以了。

我们注意到:
$$A=U\Sigma V^T\Rightarrow AV=U\Sigma V^{T}V\Rightarrow AV=U\Sigma \Rightarrow A{v}_i={\sigma }_i{u}_i\Rightarrow {\sigma }_i=A{v}_i/u_i$$

这样我们可以求出我们的每个奇异值，进而求出奇异值矩阵Σ。

上面还有一个问题没有讲，就是我们说$A^{T}A$的特征向量组成的就是我们SVD中的V矩阵，而$A{A}^T$的特征向量组成的就是我们SVD中的U矩阵，这有什么根据吗？这个其实很容易证明，我们以V矩阵的证明为例。
$$A=U\Sigma V^T\Rightarrow A^T=V{\Sigma }^T{U}^T\Rightarrow A^{T}A=V{\Sigma }^T{U}^{T}U\Sigma V^T=V{\Sigma }^2{V}^T$$
上式证明使用了:$U^{T}U=I,{\Sigma }^T\Sigma ={\Sigma }^2$。
可以看出$A^{T}A$的特征向量组成的的确就是我们SVD中的V矩阵。类似的方法可以得到$A{A}^T$的特征向量组成的就是我们SVD中的U矩阵。
进一步我们还可以看出我们的特征值矩阵等于奇异值矩阵的平方，也就是说特征值和奇异值满足如下关系：
$$\sigma i=\surd {\lambda }_i$$
这样也就是说，我们可以不用$\sigma i=A{v}_i/u_i=$来计算奇异值，也可以通过求出$A^{T}A$的特征值取平方根来求奇异值。

1.4 SVD的一些性质

上面几节我们对SVD的定义和计算做了详细的描述，似乎看不出我们费这么大的力气做SVD有什么好处。那么SVD有什么重要的性质值得我们注意呢？

对于奇异值,它跟我们特征分解中的特征值类似，在奇异值矩阵中也是按照从大到小排列，而且奇异值的减少特别的快，在很多情况下，前10%甚至1%的奇异值的和就占了全部的奇异值之和的99%以上的比例。
也就是说，我们也可以用最大的k个的奇异值和对应的左右奇异向量来近似描述矩阵。也就是说：

$$A_{m\times n}=U_{m\times m}{\Sigma }_{m\times n}{V}_{n\times n}^T\approx U_{m\times k}{\Sigma }_{k\times k}{V}_{k\times n}^T$$
其中k要比n小很多，也就是一个大的矩阵A可以用三个小的矩阵$U_{m\times k},{\Sigma }_{k\times k},V_{k\times n}^T$来表示。

如下图所示，现在我们的矩阵A只需要灰色的部分的三个小矩阵就可以近似描述了。

由于这个重要的性质，SVD可以用于PCA降维，来做数据压缩和去噪。也可以用于推荐算法，将用户和喜好对应的矩阵做特征分解，进而得到隐含的用户需求来做推荐。同时也可以用于NLP中的算法，比如潜在语义索引（LSI）。

2 线性最小二乘问题

SVD分解及线性最小二乘问题

$$min\Vert Ax-b{\Vert }^2，A\in {R^{m\ast }}^n，x\in R^n，b\in R^m$$

m个方程求解n个未知数，有三种情况：

1. m=n且A为非奇异，则有唯一解，$x=A^{-1}b$
2. m>n，约束的个数大于未知数的个数，称为超定问题(overdetermined）
3. m

通常我们遇到的都是超定问题，此时Ax=b的解是不存在的，从而转向解最小二乘问题：

$$J(x)=min\Vert Ax-b{\Vert }^2$$
J(x)为凸函数，我们令一阶导数为0，得到：$A^{T}Ax-A^{T}b=0$,称之为正规方程一般解：

$$x={(A^{T}A)}^{-1}{A}^{T}b$$

奇异值分解与线性最小二乘问题

AX=b

通常我们遇到的都是超定问题 m>n

AX=0

齐次方程组（超定方程组）的最小二乘解，及利用其拟合空间平面

特殊情况：齐次线性方程Ax=0 A的行数大于列数

这时实际上是没有真正的非零解析解的，因为约束太多了，没法都满足(零向量除外)。但是可以折中一下，每一个方程都满足个大概，这就要求最小二乘解。
求取最小二乘解的方法一般使用SVD，即奇异值分解。

理论推导部分
齐次方程组形如：$Ax=0$。
在一些优化，拟合等问题中经常出现，我们常考虑方程多于未知数元数的情况------超定方程组。

首先对于平凡解x=0我们一般不感兴趣，一般我们会寻求方程组的非零解。

如果x是方程组的一个解，那么对于$Vk\in R$,$kx$也是齐次方程组的解，一个合理的假设是只求满足$\Vert x\Vert =1$的解。

假设A的维数是$m\times n$，一般的$m>n$(超定)，那么方程组存在精确解的条件是rank(A)即矩阵A列不满秩。当没有精确解的时候（rank(A) = n, A列满秩），我们通常求其最小二乘解，描述为：

求使||Ax||最小化并满足||x||=1的x

先介绍一个引理，即对于一个酉阵或半酉阵$p(P^{{}^T}P=I)$和一个向量x(向量维数等于P列数)，有：

$${\Vert x\Vert }_2=\sqrt{x^{T}x}=\sqrt{x^T(p^{T}p))x}={\Vert px\Vert }_2$$

将A进行奇异值分解，令：

$$A=UD{V}^{{}^T}$$

其中U和V为半酉阵，分别满足

$$U^{T}U=I,V{V}^T=I$$

则：

$$\Vert Ax\Vert =\Vert UD{V}^{T}x\Vert =\Vert D{V}^{T}x\Vert$$

另，若令:

$$y=V^{T}x$$

则问题等效成求使||Dy||最小化并满足||y||=1的y

需要说明的是对于当前问题，A列满秩，则D是对角阵，V是酉阵(方阵)

在奇异值分解中D的对角线元素是递减排列的，那么只需去取y=(0,0,…0,1)，则;

$\Vert Ax\Vert =\Vert Dy\Vert ={\sigma }_n，{\sigma }_n$是A最小的奇异值

此时：

$$x=Vy$$

即x为V矩阵的最后一列，在此题背景下x为$A^{T}A$的最小特征值对应的单位特征向量。

3 奇异值分解(SVD) — 几何意义

具体内容看这里：奇异值分解(SVD) — 几何意义
以下只做简单总结

$$M=U\Sigma V^T=u_1{\sigma }_1{v}_1^T+u_2{\sigma }_2{v}_2^T$$
$U$ 矩阵的列向量分别是$u_1,u_2$，$\Sigma$ 是一个对角矩阵，对角元素分别是对应的$\sigma 1$ 和 $\sigma 2$，$V$ 矩阵的列向量分别是$v_1,v_2$。上角标 $T$ 表示矩阵$V$ 的转置。

这就表明任意的矩阵 $M$ 是可以分解成三个矩阵。$V$ 表示了原始域的标准正交基，$u$ 表示经过 $M$ 变换后的co-domain的标准正交基，$\Sigma$ 表示了$V$ 中的向量与$u$ 中相对应向量之间的关系。

应用实例(Another example)

1. 矩阵M的秩的大小等于矩阵M经过奇异值分解后非零奇异值的个数。

2. 对图像像素矩阵SVD分解可以对图像减噪(noise reduction)

3. 对采集的数据进行SVD分解可以保留主要样本