奇异值分解

对角矩阵是我们最喜欢的一类矩阵，因为给定一个对角阵立即就可以得到它的特征值，行列式，幂和指数函数等等

而一个阶的方阵相似于对角阵当且仅当它存在着个线性无关的特征向量。

特征值分解，

其中是的特征向量组成的正交矩阵

正交矩阵受到关注是因为求逆的代价小

---

上面为实对称矩阵，那么矩阵如何“对角化”？

---

与

设实矩阵的秩为，则为阶实对称矩阵，为阶实对称矩阵

---

设，则，

即

故。的特征值都是非负数，同理的特征值也都是非负数

---

矩阵的行秩与列秩相等

秩=列向量个数，称为列满秩。秩=行向量个数，称为行满秩。

因为，所以非零特征值的数量非零特征值的数量

设是的非零特征值。即，使得

则有。故也是的非零特征值

因此与具有相同的非零特征值

---

从上面证明看出和的这个非零特征值为，其中

设为阶实对称方阵的单位正交特征向量，则

注意到，

故，即

令，则，

并且

故是的单位正交特征向量

---

（1）

（2）

由上式子得：是列空间的一组单位正交基，是的列空间的一组单位正交基。是的长度，计 为，得：

，

SVD几何意义