SVD分解正确分解流程

SVD分解
网上大多的SVD分解流程会是这种，写出这种流程的博客、知乎也好，基本上应该都是东抄抄西抄抄，未在实际中使用或者在实际使用中发现问题也没解决？

网上常见的分解流程：
$$A=U\Sigma V^T$$

• 1、计算$A^T\ast A$和$A\ast A^T$的值；
• 2、分别$A^T\ast A$和$A\ast A^T$特征向量及其特征值；
• 3、$A\ast A^T$ 的特征向量组成 U；而 $A^T\ast A$ 的特征向量组成 V；
• 4、$A\ast A^T$和$A^T\ast A$特征根是相等的，对非零特征值求平方根，对应上述特征向量的位置，填入 Σ 的对角元。

上述问题：
例如下面的矩阵A=$\left[\begin{array}{cc}4& 4\\ -3& 3\end{array}\right]$对齐进行SVD分解

• $A^T\ast A$ =$\left[\begin{array}{cc}4& -3\\ 4& 3\end{array}\right]\ast \left[\begin{array}{cc}4& 4\\ -3& 3\end{array}\right]=\left[\begin{array}{cc}25& 7\\ 7& 25\end{array}\right]$求得特征值${\lambda }_1=32,{\lambda }_2=18$对应特征向量$\left[\begin{array}{c}1\\ 1\end{array}\right]$和$\left[\begin{array}{c}1\\ -1\end{array}\right]$
• 对于$A\ast A^T$ =$\left[\begin{array}{cc}4& 4\\ -3& 3\end{array}\right]\ast \left[\begin{array}{cc}4& -3\\ 4& 3\end{array}\right]\ast =\left[\begin{array}{cc}32& 0\\ 0& 18\end{array}\right]$求得特征值${\lambda }_1=32,{\lambda }_2=18$对应特征向量$\left[\begin{array}{c}1\\ 0\end{array}\right]$和$\left[\begin{array}{c}0\\ 1\end{array}\right]$
• 则$\Sigma =\left[\begin{array}{cc}\sqrt{32}& 0\\ 0& \sqrt{18}\end{array}\right],U=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right],V=\left[\begin{array}{cc}1/\sqrt{2}& 1/\sqrt{2}\\ 1/\sqrt{2}& -1/\sqrt{2}\end{array}\right]（备注：V矩阵对V特征向量进行了正则化）$,
• 验证 $U\Sigma V^T等于A吗$
• $U\Sigma V^T=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]\left[\begin{array}{cc}\sqrt{32}& 0\\ 0& \sqrt{18}\end{array}\right]\left[\begin{array}{cc}1/\sqrt{2}& 1/\sqrt{2}\\ 1/\sqrt{2}& -1/\sqrt{2}\end{array}\right]=\left[\begin{array}{cc}4& 4\\ 3& -3\end{array}\right]\ne A$

问题原因：
经历上述1、2、3步解出来的U、V能保证$\Sigma \ast {\Sigma }^T$内元素的平方和$A^T\ast A$ 、$A\ast A^T$的特征值的关系，并不保证${\Sigma }^T$的元素一定为正值，为了满足奇异值定义，我们需要选取奇异值为特征的正平方根这是我们的目的。

正确的做法

• 1、计算$A^T\ast A$；
• 2、计算$A^T\ast A$特征向量及其特征值；
• 3、选择$A^T\ast A$ 的特征向量组成 V；
• 4、$A\ast A^T$和$A^T\ast A$特征根是相等的，对非零特征值求平方根，对应上述特征向量的位置，填入 Σ 的对角元。
• 5、假如初始组成了V则根据$AV=U\Sigma$去求解得到满足要求的U