《矩阵理论》笔记 2 — 矩阵的标准形理论

矩阵论-矩阵的标准形理论

一、线性变换的特征值和特征向量

1、特征值与特征向量的基本概念

1.1 定义

设 $T$ 是内积空间 $V$ 上的线性变换，若存在数 $\lambda$ 和 $V$ 中非零向量 $\alpha$ ，使得 $T\alpha =\lambda \alpha$ ，则 $\lambda$ 称为 $T$ 的特征值，$\alpha$ 称为 $T$ 属于 $\lambda$ 的特征向量。

1.2 性质

• 线性变换的特征值与基的形式无关，但特征向量与基的形式直接相关。
• 线性变换对应矩阵所有特征值之积等于其行列式的值，所有特征值之和等于其对角线元素之和。
• 线性变换在不同特征值下的特征向量线性无关。

1.3 求取特征值和特征向量

• 特征多项式$|\lambda E-A|$：令特征方程 $|\lambda E-A|=0$ ，解出 ${\lambda }_i$。
• 反将${\lambda }_i$ 代回，$({\lambda }_{i}E-A)x=0$，解得 $x$ 的基础解系，即为特征向量。

2、特征子空间

2.1 定义

设 $T$ 是线性空间 $V$ 上的线性变换， $\lambda$ 为 $T$ 的特征值，则集合 $V_{\lambda }=\{\alpha |T\alpha =\lambda \alpha ,\alpha \in V\}$ ，称为 $T$ 的特征子空间（ 即 $\lambda$ 的特征向量的集合）。

• 若 $T$ 在 $V$ 的一组基下对应的矩阵为 $A$ ，则 $V_{\lambda }=\{\alpha |T\alpha =\lambda \alpha ,\alpha \in V\}$ 同构于$S_{\lambda }=\{x|Tx=\lambda x,x\in P^n\}$ ，从而 $dim{V}_{\lambda }=dim{S}_{\lambda }=n-R(\lambda E-A)$。

2.2 几何重数和代数重数

特征子空间的维数 $dim{V}_{\lambda }$ 称为 $\lambda$ 的几何重数，特征方程 $|\lambda E=A|$ 中 $\lambda$ 的重数称为 $\lambda $ 的代数重数。

• A 的特征子空间为线性子空间，所有几何重数之和不超过$n$ ，所有代数重数之和为$n$ 。
• 特征值的几何重数不大于代数重数。

二、矩阵的酉相似对角化

1、线性变换完全解耦及矩阵相似对角化

1.1 定义

• 完全解耦 : 设 $V$ 上的线性变换 $T$ 存在一组特征向量 ${\alpha }_1,{\alpha }_2,...,{\alpha }_n$ 构成 $V$ 的一组基，${\lambda }_1,{\lambda }_2,...,{\lambda }_n$ 为对应的特征向量，则称$T$ 在基 ${\alpha }_1,{\alpha }_2,...,{\alpha }_n$ 下完全解耦，此时
  $$T{\alpha }_1=\lambda {\alpha }_1，T{\alpha }_2=\lambda {\alpha }_2，...，T{\alpha }_n=\lambda {\alpha }_n$$

  • 充要条件：线性变换 $T$ 在基${\alpha }_1,{\alpha }_2,...,{\alpha }_n$下完全解耦的充分必要条件是 $T$ 在基${\alpha }_1,{\alpha }_2,...,{\alpha }_n$下的表示矩阵为对角阵。

• 相似对角化 : 设 $n$ 阶矩阵 $A$ ，若存在 $n$ 阶可逆矩阵 $P$ ，使得 $P^{-1}AP=\Lambda$ ，其中 $\Lambda$ 是对角矩阵 ，则称 $A$ 可相似对角化，记 $A$ ~ $\Lambda$ ，称 $\Lambda$ 是 $A$ 的相似标准形

  • 充要条件 ：$n$ 阶矩阵 $A$ 可相似对角化 $\iff$ $A$ 有 $n$ 个线性无关的特征向量 $\iff$ $A$ 对应于每个 $k$ 重特征值都有 $k$ 个线性无关的特征向量
  • 充分条件 ：$n$ 阶矩阵 $A$ 有 $n$ 个不同特征值 $\Rightarrow$ $A$ 可相似对角化 ; $n$ 阶矩阵 $A$ 为实对称矩阵 $\Rightarrow$ $A$ 可相似对角化

1.2 性质

• 线性变换 $T$ 在基 ${\alpha }_1,{\alpha }_2,...,{\alpha }_n$ 下的表示矩阵与对角阵相似（即可相似对角化）的充分必要条件是存在基 ${\beta }_1,{\beta }_2,...,{\beta }_n$ ，使得 $T$ 在其下完全解耦，即$T$ 在基 ${\beta }_1,{\beta }_2,...,{\beta }_n$ 下的表示矩阵为对角阵。

上标H，表示埃米尔特，对原矩阵中每个元素求共轭再转置

• $n$ 阶矩阵 $A$ 相似对角阵的 充分必要条件 是 $A$ 各特征值的几何重数与代数重数相等。

1.3 Schur (舒尔)分解定理

设 ${\lambda }_1,{\lambda }_2,...,{\lambda }_n$ 为 $n$ 阶矩阵 $A$ 的特征值，则存在酉矩阵 $U$ ，使得$U^{H}AU=T$ ，其中 $T$ 为上三角阵，并且对角线元素为 ${\lambda }_1,{\lambda }_2,...,{\lambda }_n$。

2、正规矩阵的酉相似对角化

2.1 定义

• 正规矩阵： 设$A\in C^{n\times n}$，$A^{H}A=A{A}^H$，则称 $A$ 为 正规矩阵。

  • 正交矩阵、酉矩阵、对角矩阵、实对称矩阵均为正规矩阵。

• 酉相似 ：对于矩阵 $A,B\in C_{n\times n}$，若存在酉矩阵$P$ ，使得$P^{H}AP=B$ ，其中，则称 $A$ 与 $B$ 酉相似，$P$ 称为酉相似变换阵。

  • 对于复矩阵的对角化问题，一般相似对角化失去意义，常考察其酉相似对角化。

2.2 性质

$n$ 阶矩阵 $A$ 酉相似于对角阵的 充分必要条件 是 $A$ 为正规矩阵。

• 实对称矩阵正交相似于对角阵。
• 正规矩阵与其相似的对角阵具有相同的几何特性。

3、$Hermite$ (埃尔米特)阵与正定矩阵

3.1 概念

• 设 $A\in C^{n\times n}$ ，若 $ A^H=A $ ，则称 $A$ 为 $Hermite$ 阵。

• 若 $A^H=-A$ ，则称 $A$ 为 反$Hermite$ 阵。

• 对于 $Hermite$ 阵 $A$ ，若对任何 $x\in C^n,x\ne 0，x^{H}Ax>0$，则称 $A$ 为正定矩阵。

• 若将上述定义中$x^{H}Ax>0$ 改为$x^{H}Ax\ge 0$，则称 A 为半正定矩阵。

• 对于$x\in C^n$ ，$x^{H}Ax$ 称为 $Hermite$二次型 。

3.2 性质

• $Hermite$ 阵为正规矩阵。

• $Hermite$ 阵的特征值是实数，不同特征值的特征向量相互正交。

• $Hermite$ 阵必可酉相似于对角阵。

• 若 $A$ 为$Hermite$阵，则存在酉矩阵$U$ ，使得 $x^{H}Ax$ 在正交变换 $x=Uy$ 下变为标准形，即不含交叉乘积项。

• 每个正定矩阵 $A$ 均对应于一个 $C^n$ 中一个内积： $<x,y>=x^{H}Ay,x,y\in C^n$。

• 充要条件： $Hermite$阵 $A$ 为正定矩阵 $\iff$ 特征值均为正数。 $\iff$ 存在可逆矩阵$B$ ，使得 $A=B^{H}B$ 。 $\iff$ 各顺序主子式均大于0。

• 设$A\in C^{m\times n}$，则存在酉矩阵 $U_m,V_n$使得 $U^{H}AV=$ $\left[\begin{array}{cc}D& 0\\ 0& 0\end{array}\right]$ ，其中$D=$ [ d 1 d 2 ⋱ d r ] \begin{bmatrix} d_{1} & & \\ & d_{2} & \\ & & \ddots & \\ & & & d_{r} \end{bmatrix} ​d1​​d2​​⋱​dr​​ ​ ，$d_1\ge d_2\ge ...\ge d_r>0$

• 矩阵 $A$ 的奇异值为 $A^{H}A$或 $A{A}^H$ 的正特征值的算术根，$U$ 和$V$ 的列向量分别为$A^{H}A$或 $A{A}^H$的单位正交特征向量组。

三、特征矩阵的$Smith$标准形

1、矩阵的秩、逆与初等变换

1.1 概念

• $\lambda$ 矩阵 ：以 $\lambda$ 的多项式为元素构成的矩阵称为 $\lambda$ 矩阵 ，表示为 $A(\lambda )$ 。
  • 显然，每个为 $\lambda $ 矩阵均可表示为矩阵系数的多项式 $A_0{\lambda }^k+A_1{\lambda }^{k-1}+...+A_{k-1}\lambda +A_k$
• 纯数值矩阵 仍用 $A,B,...$ 等符号表示。
• 秩： $\lambda$ 矩阵 $A(\lambda )$ 中不恒等于 $0$ 子式的最高阶数称为 $A(\lambda )$ 的秩，记为$R(A(\lambda ))$ 。
  • 显然，$n$ 阶矩阵 $A$ 的特征矩阵 $\lambda E-A$ 是一个 $\lambda$ 矩阵，其秩为$n$ 。
• 逆矩阵： 对于 $n$ 阶 $\lambda$ 矩阵 $A(\lambda )$ ，若存在另一 $n$ 阶矩阵 $B(\lambda )$ ，使得 $A(\lambda )B(\lambda )=B(\lambda )A(\lambda )=E$ 则称 $A(\lambda )$ 可逆，$B(\lambda )$ 为 $A(\lambda )$ 的逆矩阵，并记为 $A^{-1}(\lambda )$。
• 初等变换 ： 如下变换称为对 $\lambda$ 矩阵的初等变换：
  • 互换两行（列）；
  • 某行（列）乘以一个非0常数；
  • 将某行（列）的$\lambda$多项式倍加到另一行（列）上。
• 等价：若 $A(\lambda )$ 经一系列初等变换化成$B(\lambda )$ ，则称$B(\lambda )$ 与 $A(\lambda )$ 等价。

1.2 性质

• $n$ 阶 $\lambda$ 矩阵 $A(\lambda )$ 可逆的 充分必要条件 为其行列式不等于0。

• 初等变换是可逆变换，对应的初等矩阵（对单位阵进行一次初等变换所得的矩阵）是可逆矩阵。

• 矩阵的秩在初等变换下保持不变。

2、特征矩阵$\lambda E -A $的行列式因子

2.1 概念

• 特征矩阵 $\lambda E-A$ 中所有 $k$ 阶非零子式的最大首一公因式$D_k(\lambda )(k=1,2,...,n)$称为特征矩阵 $\lambda E-A$ 的$k$ 阶行列式因子，也称为 $A$ 的$k$ 阶行列式因子。
  • 显然，特征矩阵的行列式因子是唯一的，并且 $Dn(\lambda )=|\lambda E-A|$ 。
  • 行列式因子求法：（以三阶矩阵为例）
    • $D_3(\lambda )=|\lambda E-A|$
    • 求解$D_2(\lambda )$：首先，特征矩阵的行列式子式消去某行和某列，剩下元素组成行列式，如三阶矩阵对应的行列式子式有9个。那么这九个行列式子式均是$\lambda$的多项式，这九个多项式（前提是这些行列式非零）因式分解，求出这九个多项式的最大公因式，即为$D_2(\lambda )$。
    • 求解$D_1(\lambda )$：特征矩阵的九个元素的最大公因式即为所求。

2.2 性质

• 设$D_0(\lambda )=1$，则$D_{k-1}(\lambda )|D_k(\lambda )$ 。
  （竖线表示可以整除，后者可以被前者整除）

• 特征矩阵的行列式因子 在初等变换下保持不变。

3、$Smith$标准形

3.1 概念

• $n$ 阶矩阵 $A$ 的特征矩阵 $\lambda E-A$ 等价于对角阵
  D = [ d 1 ( λ ) d 2 ( λ ) ⋱ d n ( λ ) ] D=\begin{bmatrix} d_{1}(\lambda) & & \\ & d_{2}(\lambda) & \\ & & \ddots & \\ & & & d_{n}(\lambda) \end{bmatrix} D= ​d1​(λ)​d2​(λ)​⋱​dn​(λ)​ ​其中，$d_i(\lambda )(i=1,2,...,n)$ （不变因子 ）为首一多项式，并且 $d_i(\lambda )|d_{i+1}(\lambda )(i=1,2,...n)$ ，对角阵 $D$ 称为特征矩阵 $\lambda E-A$ 的 $Smith$ 标准形。

  • 对于一般$\lambda$矩阵 $A(\lambda )$ ，$Smith$标准形为
    D = [ d 1 ( λ ) 0 d 2 ( λ ) ⋱ d n ( λ ) 0 0 ] D=\begin{bmatrix} d_{1}(\lambda) & & & &0\\ & d_{2}(\lambda) & \\ & & \ddots & \\ & & & d_{n}(\lambda)\\ 0& & & & 0 \end{bmatrix} D= ​d1​(λ)0​d2​(λ)​⋱​dn​(λ)​00​ ​其中，$d_i(\lambda )(i=1,2,...n)$ 为首一多项式 ,并且 $d_i(\lambda )|d_{i+1}(\lambda )(i=1,2,...n)$ ,$r=R(A(\lambda )$

3.2 性质

• 特征矩阵等价的充分必要条件是不变因子或行列式因子相同。
• 特征矩阵的 $Smith$ 标准形是唯一的

四、矩阵的$Jordan$标准形

1、不变因子和初等因子

1.1 概念

• 不变因子： 设 $D_k(\lambda )(k=1,2,,n)$ 是矩阵 $A$ 的 $k$ 阶行列式因子，则多项式 $$d_k(\lambda )=D_k(\lambda )/D_{k-1}(\lambda ),k=1,2,...,n$$称为特征矩阵 $\lambda E-A$或$A$ 的不变因子。

  • 另一种定义说法 ： 称 $A(\lambda )$的 $Smith$ 标准形中对角元素 $d_i(\lambda )(i=1,2,...,r)$ 为 $A(\lambda )$ 的第$i$个不变因子。
  • 显然，$D_k(\lambda )=d_1(\lambda )...d_k(\lambda ),k=1,2,...n$

• 初等因子： 特征矩阵 $\lambda E-A$ 的所有不变因子中一次因子的方幂（包括各个不变因子中重复的因子），称为 $A$ 的初等因子。

  • 另一种定义说法： $\lambda$矩阵的所有次数大于1的不变因子都分解为一次因子的方幂（重复的也重复计算）为此矩阵的初等因子。
    • 次数大于一，因式分解，所有一次项或其方幂（可重复），为初等因子

1.2 性质

• 特征矩阵的不变因子在初等变换下保持不变
• 特征矩阵的初等因子由不变因子唯一确定，反之亦然。
• 每个初等因子是且仅是一个不变因子的因子，无初等因子的不变因子均为 1。
• 对角 $\lambda$ 矩阵中对角线上元素的一次因子的方幂（包括对角线上元素中重复的因子），为其初等因子。
• 分块对角 $\lambda$ 矩阵上个对角块的初等因子合在一起即为整个 $\lambda$ 矩阵的初等因子。

2、矩阵相似的特征

矩阵相似的充要条件 ： $n$ 阶矩阵 $A$、$B$相似 $\iff$ 存在可逆矩阵$P$、$Q$，使得 $\lambda E-A=P(\lambda E-B)Q$ $\iff$ 它们的特征矩阵等价 $\iff$ 不变因子或初等因子相同

3、$Jordan$ 块与标准形

3.1 定义

• $Jordan$ 块： 初等因子为 $(\lambda -{\lambda }_k{)}^{m_k}$ 的 $m_k$ 阶矩阵 J k = [ λ k 1 λ k ⋱ ⋱ 1 λ k ] J_k = \begin{bmatrix} \lambda_{k} & 1 & & \\ & \lambda_{k} & \ddots & \\ & & \ddots & 1 \\ & & & \lambda_{k}\\ \end{bmatrix} Jk​= ​λk​​1λk​​⋱⋱​1λk​​ ​

• $Jordan$ 标准形： 初等因子为 $(\lambda -{\lambda }_1{)}^{m_1}$,$(\lambda -{\lambda }_2{)}^{m_2}$,…,$(\lambda -{\lambda }_s{)}^{m_s}$ 的矩阵 J = [ J 1 J 2 ⋱ J S ] J=\begin{bmatrix} J_{1} & & & \\ & J_{2} & & \\ & & \ddots & \\ & & & J_{S}\\ \end{bmatrix} J= ​J1​​J2​​⋱​JS​​ ​ （其中 $j_k$ 为上述 $Jordan$ 块）

3.2 性质

• 每个 $n$ 阶矩阵均可相似化为 $Jordan$ 标准形。
• $n$ 阶矩阵可相似对角化的充分必要条件是其初等因子均为一次的。

3.3 约当标准型变换矩阵（另外矩阵函数章详见）

约当标准型变换矩阵 $P$ 求法: $（P^{-1}AP=J）$

• $A$ 是 $n$ 维矩阵，$J$ 有$t$个约当块，$P$的列向量$p_i$
• 对于一个对角元素 ${\lambda }_0:A{P}_1={\lambda }_0{P}_1,A{P}_2=P_1+{\lambda }_0{P}_2,...,A{P}_m=P_{m-1}+{\lambda }_0{P}_m$
• A ( p 1 , p 2 , . . . , p n ) = ( p 1 , p 2 , . . . , p n ) [ J 1 ⋱ J t ] A(p_1,p_2,...,p_n) = (p_1,p_2,...,p_n) \begin{bmatrix}J_1& &\\& \ddots & \\& & J_t \end{bmatrix} A(p1​,p2​,...,pn​)=(p1​,p2​,...,pn​) ​J1​​⋱​Jt​​ ​

五、 $Cayley-Hamilton$ 定理与矩阵的最小多项式

1、矩阵多项式

$f(A)=a_0{A}^m+a_1{A}^{m-1}+\cdot \cdot \cdot +a_{m-1}A+a_{m}E$ ， 为$ n$ 阶矩阵 $A$ 的多项式

• $n$ 阶矩阵的多项式仍为$n$ 阶矩阵
• 相似矩阵的多项式仍然相似，且具有相同的相似变换阵。
• 对角阵的多项式仍为对角阵，分块对角阵的多项式仍为分块对角阵。
• 对于$n$ 阶矩阵 $A$ 和多项式 $f(\lambda )$ ，$f(A)$ 必相似于 [ f ( J 1 ) f ( J 2 ) ⋱ f ( J S ) ] \begin{bmatrix} f(J_{1}) & & & \\ & f(J_{2}) & & \\ & & \ddots & \\ & & & f(J_{S})\\ \end{bmatrix} ​f(J1​)​f(J2​)​⋱​f(JS​)​ ​
  其中$J_k$ , $k=1,2,..,s$ 为 $A$ 的各个$Jordan$块。

2、$Cayley-Hamilton$ 定理

• 设 N = [ 0 1 0 ⋱ ⋱ 1 0 ] k N=\begin{bmatrix} 0 & 1 & & \\ & 0 & \ddots & \\ & & \ddots & 1 \\ & & & 0\\ \end{bmatrix}_k N= ​0​10​⋱⋱​10​ ​k​ ， $N^k=0$ ，并称 $N$ 为幂零矩阵

• $Cayley-Hamilton$ 定理 ：对于$n$ 阶矩阵 $A$ ，设 $f(\lambda )=|\lambda E-A|$，则$f(A)=0$ 。

3、矩阵的零化多项式与最小多项式

对于多项式 $g(\lambda )$ 和 $n$ 阶矩阵 $A$ ，若 $g(A)=0$ ，则称$g(\lambda )$ 为 $A$ 的零化多项式。$A$的次数最低的首一零化多项式称为 $A$ 的最小多项式。

• $A$ 的特征多项式为其零化多项式，但不一定是最小多项式。
• 多项式$g(\lambda )$为$n$ 阶矩阵 $A$ 最小多项式的充分必要条件是$g(\lambda )$ 能整除$A$ 的任何零化多项式。
• 矩阵的最高阶不变因子就是其最小多项式，因而最小多项式是初等因子中各最高幂的乘积。
• 相似矩阵具有相同的最小多项式。
• 矩阵最小多项式的根为特征多项式的根，反之亦然，但重数不一定相同。
• 矩阵可相似对角化的充分必要条件是最小多项式无重根。