Linear Algebra - Lesson 29. 相似矩阵和若尔当形
Schedule
- ATA is positive definite.
- Similar matrices A,B with B=M−1AM - Jordan Form
Positive definite means xTAx>0 (except for x=0 ).
假设存在一个对称的正定矩阵,则其逆是否也是对阵正定?
如果A和B均为正定矩阵,那么A+B是否为正定矩阵?
提示 : 通过 xT(A+B)x>0 证明. 答案是肯定的,即A+B也是正定的.
假设A是m*n的长方形矩阵,而不是正定矩阵,也不是对称矩阵,甚至不是方阵,但是这个长方形矩阵的关键在于A^TA的性质.
ATA 既是方阵,而且还对称
那么它是否是正定的?
通过 xTATAx 来证明.
xTATAx 是否为正?
xTATAx=(Ax)TAx 从而得到向量 Ax 的长度的平方 所以其肯定是大于等于0的,当且仅当Ax为零向量时取0.
所以当A的秩为n 的时候,矩阵A各列线性无关,确保A^TA正定.
如果A^TA可逆,则最小二乘方程将存在最优解,且A^TA为正定矩阵.
Similar Matrixes - 相似矩阵
A和B是相似矩阵, 这是两个n*n的方阵, 意味着存在某个可逆矩阵M使得B可以表示为另一矩阵 M−1AM
相似矩阵的意义是什么呢?
Example:
假设A具有无关的特征向量,也就是存在特征向量矩阵S, 则可以通过特征向量矩阵S,产生 S−1AS=Λ
引入相似性的概念后可以说矩阵A相似于矩阵 Λ
可以把这些矩阵归为一类,其中任意两个护卫相似的矩阵,任意两个矩阵之间都存在一定联系,通过某矩阵M,这些矩阵中最特殊的就是对角阵,因为它是最简洁的一个.
What’s I’m doing is like putting these matrixes into families. All the matrixes in the family are similar to each other. Each one in this family is connected to each other one by some matrix M and like the outstanding member of the family is the diagonal guy, that’s the simplest, neatest matrix in this family of all the matrixes that are similar to A, the best one is lambda. There are lots of others because I can take any different invertible matrix M instead of S.
Example:
假设矩阵A=\beign{bmatrix}2&1\\1&2\end{bmatrix} 该矩阵的特征值分别是\Lambda=\begin{bamtrix}3&0\\0&1\end{bmatrix}
随意构造一个可逆矩阵 M=[1041] ,则M^{-1}AM=\begin{bmatrix}1&-4\\0&1\end{bmatrix}\beign{bmatrix}2&1\\1&2\end{bmatrix}\begin{bmatrix}1&4\\0&1\end{bmatrix}=\begin{bmatrix}-2&-15\\1*6\end{bmatrix}=B
这个family中的矩阵有些特性,它们具有相同的特征值.
Similar matrixes have same λ ’s
Ax=λx→AMM−1x=λMM−1x→M−1AMM−1x=M−1λMM−1x→BM−1x=λM−1x
从而证明B与A拥有同样的特征值,但是特征向量并不相同.
B的特征向量等于 M−1 乘以矩阵A的特征向量
上述情况是特征值各不相同的情况,接下来来看特征值相同的情况.
如果特征值存在相同的值,则此时特征向量可能不再是线性无关的,从而无法对矩阵进行对角化.
如果 λ1=λ2=4 ,这一类矩阵的特征值是4和4,这类矩阵可以分为两种,一种是 [4004] ,另一种是 [401 or something other4]
这里,第一种仅包含自己,也就是说仅有自己与自己相似,这是因为根据公式,任何 M−1AM 最终仍是 A
另一种则不可以进行对角化,因为如果可以进行对角化的话,则其会与第一种相似. 该家族中最好的值是1, 而这种形式被称为若尔当标准型(Jordan Form).这是该家族中最简洁的,最接近对角阵的一个.
一般矩阵很难化成若尔当标准型是因为若尔当标准型依赖于特征值严格相等.
举几个更多这个大家庭的新成员.
[4014],[5−113],[41704],⋯
这些矩阵都是相似的,只要找到合适的M,都可以证明一个矩阵相似于另一个.
而且可以看出,特征向量数量也是相等的.
对于矩阵 ⎡⎣⎢⎢⎢0000100001000000⎤⎦⎥⎥⎥ 这种具有四重根的情况,由于特征值等于0,特征向量在零空间中,秩为2.
另一个矩阵为 ⎡⎣⎢⎢⎢0000100000000010⎤⎦⎥⎥⎥ 该矩阵与上述矩阵有相同的地方,四重特征值均为0,秩为2, 但是这个矩阵并不相似于前者, 从特征向量上来看, 它们似乎是是相似的,但实际上并不相似. Jordan认为,第一个矩阵由3x3分块和1x1分块构成,而这个矩阵由2x2和2x2分块构成,这些分块称为若尔当块(Jordan Blocks) Ji 表示i阶的若尔当块,它只有一个重复的特征值,也只有一个特征向量,所以 Ji=[λi1⋯⋯] ,
与若尔当相关的重要部分是若尔当定理(Jordan’s theorem).
Every square matrix A is similar to a Jordan Matrix J .
每个方阵A都相似于一个若尔当阵J.
J 是由若尔当块组成的. J中的若尔当块数量等于特征向量的数量.