【矩阵论】2. 矩阵分解——SVD准备知识——奇异值

矩阵论
1. 准备知识——复数域上的矩阵与换位公式)
1. 准备知识——复数域上的内积域正交阵
1. 准备知识——相似对角化与合同&正定阵
2. 矩阵分解—— SVD准备知识——奇异值
2. 矩阵分解——SVD
2. 矩阵分解——QR分解
2. 矩阵分解——乔利斯分解&平方根公式
2. 矩阵分解——正规谱分解——正规阵
2. 矩阵分解——正规分解
2. 矩阵分解——单阵及特征值特征向量一些求法

---

3.1 奇异值

$$\begin{array}{rl}& 给定A=A_{n\times p}，则A^{H}A与A{A}^H有相同的正根{\lambda }_1\ge {\lambda }_2\ge \cdots \ge {\lambda }_r\ge 0\\ & 称\sqrt{{\lambda }_1},\sqrt{{\lambda }_2},\cdots ,\sqrt{{\lambda }_r}为A的奇异值\\ & \\ & 若r(A^{H}A)=r(A{A}^H)=r(A)=r，恰有r个正根{\lambda }_1\ge {\lambda }_2\ge \cdots \ge {\lambda }_r>0，则称\\ & \sqrt{{\lambda }_1},\sqrt{{\lambda }_2},\cdots ,\sqrt{{\lambda }_r}为A的正奇异值\\ & 记作S_{+}(A)=\{s_1,s_2,\cdots ,s_r\}=\{\sqrt{{\lambda }_1},\sqrt{{\lambda }_2},\cdots ,\sqrt{{\lambda }_r}\},且\sqrt{{\lambda }_1}称为最大奇异值\\ & \\ & 对于n阶方阵A=A_{n\times n}，则A^{H}A与A{A}^H有n个相同非负根,则{\lambda }_1\ge \cdots \ge {\lambda }_n\ge 0\\ & ，此时\sqrt{{\lambda }_1},\sqrt{{\lambda }_2},\cdots ,\sqrt{{\lambda }_n}为A的全体奇异值，记作S(A)=\{s_1,s_2,\cdots ,s_n\}\\ & =\{\sqrt{{\lambda }_1},\sqrt{{\lambda }_2},\cdots ,\sqrt{{\lambda }_n}\},{\lambda }_1\ge \cdots \ge {\lambda }_r，{\lambda }_{r+1}=\cdots ={\lambda }_n=0\end{array}$$

3.1.1 正奇值例题

$$\begin{array}{rl}& (1)A=\left(\begin{array}{cc}1& 2\\ 0& 0\\ 0& 0\end{array}\right)(2)A=\left(\begin{array}{cc}1& 1\\ 0& 0\\ 1& 1\end{array}\right)(3)A=\left(\begin{array}{cc}1& -1\\ 1& 1\end{array}\right)\\ & \\ & (1)A^{H}A=\left(\begin{array}{ccc}& 1& 2\\ & 2& 4\end{array}\right),为秩1矩阵，可知\lambda (A^{H}A)=\{5,0\}\\ & \therefore s^{+}(A)=\{\sqrt{5}\}\\ & \\ & (2)A^{H}A=\left(\begin{array}{cc}2& 2\\ 2& 2\end{array}\right)，为秩1矩阵，则\lambda (A)=\{4,0\}\\ & 则s^{+}(A)=\{2\}\\ & \\ & (3)A^{H}A=\left(\begin{array}{cc}2& 0\\ 0& 2\end{array}\right),为对角阵，\therefore \lambda (A^{H}A)=\{2,2\}\\ & 则s^{+}(A)=\{\sqrt{2},\sqrt{2}\}\end{array}$$

3.1.2 半正定Hermite阵的奇异值与特征值相同

$$\begin{array}{rl}& 设全体特征值为\lambda (A)=\{{\lambda }_1,\cdots ,{\lambda }_n\}，且A^H=A\Rightarrow A^{H}A=A^2,\\ & \therefore 可知\lambda (A^{H}A)=\lambda (A^2)=\{{\lambda }_1^2,\cdots ,{\lambda }_n^2\}\\ & \because A半正定可知{\lambda }_1\ge 0,\cdots ,{\lambda }_n\ge 0\\ & 故，全体奇异值s(A)=\{\sqrt{{\lambda }_1^2},\cdots ,\sqrt{{\lambda }_n^2}\}=\{{\lambda }_1,\cdots ,{\lambda }_n\}=\lambda (A)\end{array}$$