特征分解、奇异值分解几何意义

为了从直观上理解特征分解和奇异值分解,可以研究一下它们的几何意义

特征值、特征向量

假设有矩阵 A 和其特征向量 x ,它们满足 Ax=λx ,其中 λ 为特征值。

从上式就能看出 x 的几何意义:在线性变换 A 下,保持方向不变的向量。

一般的,矩阵 A 作用在(相乘)一个向量上,会使该向量发生缩放、旋转变换。如果我们换一下坐标系,以 A 的特征向量作为基,那么会发现 A 的作用只是在基的方向上进行了缩放,相当于新坐标系下的对角矩阵产生的效果,而这个对角矩阵的元素正好就是有所有的特征值构成。

新坐标系的基是由 A 的特征向量组成,所以它们应该是正交的。想象二维平面上的一个圆,经过变换后,形成了一个椭圆,椭圆的两个轴的方向,就是这个变换的特征向量的方向;椭圆的轴长就是特征值的大小。

如果存在一个特征值对应多个特征向量的情况,相当于这种缩放效果在多个方向上是对称的。可以想象成一个圆被放大或缩小后还是一个圆,相当于变换后形成的椭圆,其两个轴是等长的,而且任意两个经过圆心且垂直的方向都可以作为轴的方向,所以此时的特征分解的结果就不唯一了。

正定矩阵

所有特征值都为正的矩阵,称为正定矩阵。

这里讨论了正定矩阵的几何意义:
https://www.zhihu.com/question/22098422

奇异值和特征值的异同:
https://www.zhihu.com/question/19666954

你可能感兴趣的:(特征分解、奇异值分解几何意义)