矩阵笔记3:矩阵分析(第三版)-史荣昌-第三章:内积空间、正规矩阵、Hermite矩阵

---

0 笔记说明

参考书籍为：

本笔记主要是为了方便自己日后复习。由于未学习LaTeX，我会上传教材图片或者手写图片代替部分公式或内容。博客主要分为两部分：【1 书本内容】与【2 听课笔记】，前者为对教材中重要定理、定义的整理，后者为自己在矩阵上课时的笔记的二次书面整理。根据自身学习需要，我可能会增加必要内容。

本篇博客是关于第三章的内容，下面开始即为正文。

---

1 书本内容

1.1 欧氏空间、酉空间

1、复共轭转置矩阵：设A∈C^m×n，用

表示以A的元素的共轭复数为元素组成的矩阵。命：

则称A^H为A的复共轭转置矩阵。复共轭转置有下列性质：

(1) 如下：

(2) (A+B)^H=A^H+B^H；

(3) 如下：

(4) (AB)^H=B^HA^H；

(5) (A^H)^H=A；

(6) 当A可逆时，(A^H)^-1=(A^-1)^H。

2、Hermite矩阵：设A∈C^n×n，若A^H=A，则称A为Hermite矩阵。若A^H=-A，则称A为反Hermite矩阵。

3、单位向量：若向量α的长度||α||=1，便说α是单位向量。对于任何一个非零向量α，向量α/||α||是单位向量，称由α得到α/||α||的过程为单位化。

1.2 标准正交基、Schmidt方法

1、标准正交向量组：若不含零向量的向量组{α_i}内的向量两两正交，则说向量组{α_i}是正交向量组。若一个正交向量组内的任一个向量都是单位向量，则说向量组是标准正交向量组。正交向量组(不含零向量)是线性无关向量组。不难证明：

(1) 向量组{α_i}是正交向量组⇔当i≠j时，<α_i,α_j>=0；

(2) 向量组{α_i}是标准正交向量组的充要条件是：

(3) 零向量和任意向量都正交；反之，与空间中任意向量都正交的向量必是零向量。

2、Schmidt正交化：由一组线性无关的向量组构造标准正交组的方法：设α₁,α₂,…,α_r是n维酉空间(或欧氏空间)中r个线性无关的列向量，现求由这r个列向量生成的r维线性子空间span{α₁,α₂,…,α_r}中的一个标准正交基，分两步进行：

（1）正交化：

（2）单位化：

显然，v₁,v₂,…,v_r是标准正交向量组，它是子空间span{α₁,α₂,…,α_r}的一个标准正交基。

1.3 酉变换、正交变换

1、酉矩阵：若n阶复矩阵A满足A^HA =AA^H=Ⅰ_n，则称A是酉矩阵，记之为A∈U^n×n。根据定义容易验证：若A，B∈U^n×n，则：

(1) A^-1=A^H∈U^n×n；

(2) |detA|=1，即矩阵A的行列式的模为1；

(3) A^T∈U^n×n；

(4) AB、BA∈U^n×n。

2、正交矩阵：若n阶实矩阵A满足A^TA =AA^T=Ⅰ_n，则称A是正交矩阵，记之为A∈E^n×n。根据定义容易验证：若A，B∈E^n×n，则：

(1) A^-1=A^T∈E^n×n；

(2) detA=±1，即正交矩阵的行列式为1或-1；

(3) AB、BA∈E^n×n。

3、矩阵是酉矩阵(正交矩阵)的充要条件：设A∈C^n×n，则A是酉矩阵(正交矩阵)⇔A的n个列向量(或行向量)是标准正交向量组。

4、酉变换、正交变换：设V是n维酉空间，σ是V的线性变换，若∀α,β∈V都有<σ(α),σ(β)>=<α,β>，则称σ是V的酉变换。设V是n维欧氏空间，σ是V的线性变换，若∀α,β∈V都有<σ(α),σ(β)>=<α,β>，则称σ是V的正交变换。

5、设σ是酉空间(或欧氏空间)V的线性变换，则下列命题等价：

(1) σ是酉变换(或正交变换)；

(2) ∀α∈V，||σ(α)||=||α||；

(3) σ将V的标准正交基变到标准正交基；

(4) 酉变换(或正交变换)在标准正交基下的矩阵表示是酉矩阵(或正交矩阵)。

证明过程如下：

1.4 幂等矩阵、正交投影

由于时间问题，省略这一部分，以后用到才会补。

1.5 对称与反对称变换

由于时间问题，省略这一部分，以后用到才会补。

1.6 Schur引理、正规矩阵

1、Schur不等式：设A=(a_ij)∈C^n×n，λ₁,λ₂,…,λ_n为A的特征值，则

其中等号成立的充要条件是A酉相似于对角矩阵。

2、若A是正规矩阵，且A是三角矩阵，则A是对角阵。

3、正规矩阵的特征值与特征向量：设A是正规矩阵，λ_i是A的特征值，对应的特征向量是x，则λ_i的共轭是A^H的特征值，其对应的特征向量是x。n阶正规矩阵A有n个线性无关的特征向量。正规矩阵属于不同特征值的特征子空间是相互正交的。

4、求酉矩阵使正规矩阵酉相似于对角阵的步骤：A∈C^n×n，当A是正规矩阵，求酉矩阵U，使得U^-1AU=U^HAU=对角矩阵。求酉矩阵U的步骤如下：

（1）求|λⅠ_n-A|=0的根λ₁,λ₂,…,λ_n；

（2）对每一个相异特征值λ_i，求λ_i的特征子空间V_λi；

（3）用Schmidt正交化与单位化方法，求V_λi的标准正交基ε_i1,ε_i2,…,ε_ini；

（4）命U=(ε₁₁,ε₁₂,…,ε_1n1,ε₂₁,ε₂₂,…,ε_2n2,…,ε_s1,ε_s2,…,ε_sns)，其中s为相异特征值的个数，且n₁+n₂+…+n_s=n。

则上述酉矩阵U满足U^HAU=diag(λ₁,λ₂,…,λ_n)。

5、设A是正规矩阵，则：

（1）A是Hermite矩阵⇔A的特征值都是实数；

（2）A是反Hermite矩阵⇔A的特征值的实部都为零；

（3）A是酉矩阵⇔A的特征值的模长都等于1。

6、设A、B都是正规矩阵，则A、B可以同时酉对角化的充要条件是AB=BA，其中A、B可以同时酉对角化的含义是存在一个n阶酉矩阵U，使得：

1.7 Hermite变换、正规变换

由于时间问题，省略这一部分，以后用到才会补。

1.8 Hermite矩阵、Hermite二次齐式

由于时间问题，省略这一部分，以后用到才会补。

1.9 正定二次齐式、正定Hermite矩阵

由于时间问题，省略这一部分，以后用到才会补。

1.10 Hermite矩阵偶在复相合下的标准型

由于时间问题，省略这一部分，以后用到才会补。

1.11 Rayleigh商

由于时间问题，省略这一部分，以后用到才会补。

---

2 听课笔记

2.1 欧氏空间、酉空间

1、实内积：V是R上的线性空间，定义映射σ：V×V→R。对于α,β∈V，将σ<α,β>记为<α,β>，若σ满足：

（1）对称性：<α,β>=<β,α>；

（2）右齐次性：<α,kβ>=k<α,β>；

（3）右可加性：<α,β+γ>=<α,β>+<α,γ>；

（4）非负性：<α,α>≥0，且<α,α>=0⇔α=0。

则称σ为V上的实内积。

2、欧氏空间：定义了内积运算的R上的线性空间V称为实内积空间。当V是有限维实内积空间时，称其为欧氏空间。

3、实内积空间的例子：

（1）Rⁿ，即标准欧氏空间，其内积运算定义为：设x、y∈Rⁿ，则=x^Ty；

（2）几何空间，其内积运算定义为：设α、β是几何空间的两个向量，则<α,β>=||α||·||β||·cosθ，其中θ为α、β的夹角度数；

（3）C[a,b]，即定义在实数域区间[a,b]上的连续函数。设f、g∈C[a,b]，其内积运算定义为：

4、实内积的性质：

（1）左齐次性：=k<α,β>；

（2）左可加性：<α+β,γ>=<α,γ>+<β,γ>；

（3）1α₁+…+k_sα_s,β>=k₁<α₁,β>+…+k_s<α_s,β>；

（4）<α,k₁β₁+…+k_sβ_s>=k₁<α,β₁>+…+k_s<α,β_s>。

5、复内积：V是C上的线性空间，定义映射σ：V×V→C。对于α,β∈V，将σ<α,β>记为<α,β>，若σ满足：

（1）共轭对称性：

（2）右齐次性：<α,kβ>=k<α,β>；

（3）右可加性：<α,β+γ>=<α,β>+<α,γ>；

（4）非负性：<α,α>≥0，且<α,α>=0⇔α=0。

则称σ为V上的复内积。

6、酉空间：定义了内积运算的C上的线性空间V称为复内积空间。当V是有限维复内积空间时，称其为酉空间。

7、复内积空间的例子：

（1）Cⁿ，即标准酉空间，其内积运算定义为：设x、y∈Cⁿ，则=x^Hy，其中x^H是：

（2）C([a,b],C)，即定义在复数域区间[a,b]上的连续函数。设f、g∈C([a,b],C)，其内积运算定义为：

8、复内积的性质：

（1）左共轭齐次性：

（2）左可加性：<α+β,γ>=<α,γ>+<β,γ>；

（3）如下：

（4）<α,k₁β₁+…+k_sβ_s>=k₁<α,β₁>+…+k_s<α,β_s>。

9、线性组合的内积的矩阵表示：α₁,α₂,…,α_s;β₁,β₂,…,β_t是C上的内积空间V中的两个向量组，则：

10、协Gram矩阵：α₁,α₂,…,α_s;β₁,β₂,…,β_t是C上的内积空间V中的两个向量组，则称：

为α₁,α₂,…,α_s;β₁,β₂,…,β_t的协Gram矩阵，记为G(α₁,α₂,…,α_s;β₁,β₂,…,β_t)。

11、Gram矩阵：α₁,α₂,…,α_s是C上的内积空间V中的一个向量组，则称：

为α₁,α₂,…,α_s的Gram矩阵，记为G(α₁,α₂,…,α_s)。

12、Gram矩阵公式：

（1）α₁,α₂,…,α_s是标准酉空间Cⁿ中的一个向量组，记n×s阶矩阵A=(α₁,α₂,…,α_s)，则G(α₁,α₂,…,α_s)=A^HA；

（2）α₁,α₂,…,α_s是标准欧氏空间Rⁿ中的一个向量组，记n×s阶矩阵A=(α₁,α₂,…,α_s)，则G(α₁,α₂,…,α_s)=A^TA。

13、两个向量组之间的Gram矩阵的关系：α₁,α₂,…,α_s;β₁,β₂,…,β_t是C上的内积空间V中的两个向量组，若α₁,α₂,…,α_s可由β₁,β₂,…,β_t线性表出，且：(α₁,α₂,…,α_s)=(β₁,β₂,…,β_t)A，其中A是t×s阶矩阵，则G(α₁,α₂,…,α_s)=A^HG(β₁,β₂,…,β_t)A。

14、Gram矩阵的性质：α₁,α₂,…,α_s是Cⁿ中的一个向量组，则：

（1）rank(G(α₁,α₂,…,α_s))=rank(α₁,α₂,…,α_s)，证明过程如下：

（2）Hermite性：G^H=G，即Gram矩阵是Hermite矩阵，证明过程如下：

（3）非负定：∀x∈C^s，复二次型x^HGx≥0，且G(α₁,α₂,…,α_s)正定⇔α₁,α₂,…,α_s线性无关，证明过程如下：

（4）记n×s阶矩阵A=[α₁,α₂,…,α_s]，则rank(G(α₁,α₂,…,α_s))=rank(A^HA)=rank(A)=rank(α₁,α₂,…,α_s)。

15、度量矩阵：α₁,α₂,…,α_n是C上的n维内积空间V中的一个基，则Gram矩阵G(α₁,α₂,…,α_n)称为基α₁,α₂,…,α_n的度量矩阵。

16、向量的内积由度量矩阵唯一决定：设α₁,α₂,…,α_n是C上的n维内积空间V中的一个基，G(α₁,α₂,…,α_n)为基α₁,α₂,…,α_n的度量矩阵，∀α、β∈V，α、β在基α₁,α₂,…,α_n下的坐标为x、y∈Cⁿ，则<α,β>=x^HGy。

17、向量的模：V是内积空间，定义向量长度，即模为||α||=sqrt(<α,α>)。模的性质：

（1）非负性：||α||≥0，且||α||=0⇔α=0；

（2）正齐次性：||kα||=|k|·||α||；

（3）三角不等式：||α+β||≤||α||+||β||，且||α +β||=||α||+||β||⇔α=t·β，其中t>0；

（4）Cauchy-Schwarz不等式：|<α,β>|≤||α||·||β||，且|<α,β>|=||α||·||β||⇔ α、β线性相关；

（4）平行四边形公式：平行四边形的两条对角线的平方和等于四条边的平方和，即||α+β||²+||α-β||²=2(||α||²+||β||²)。

18、距离：V是内积空间，定义向量之间的距离为：d(α,β)=llα-βll。距离的性质：

（1）对称性：d(α,β)=d(β,α)；

（2）非负性：d(α,β)≥0，且d(α,β)=0⇔α=β；

（3）距离三角不等式：d(α,β)≤d(α,γ)+d(γ,β)，即两个向量之间的距离总小于等于另外一个向量与这两个向量的距离之和。

19、夹角(只针对实内积空间)：由Cauchy-Schwarz不等式|<α,β>|≤||α||·||β||得：若α≠0，β≠0，则：

若α≠0，β≠0，定义α、β的夹角为：

20、正交：若<α,β>=0，称向量α,β正交或者垂直，记为α⊥β。∀α∈V，都有0⊥α。设W是内积空间V的子空间，取α∈V，若∀β∈W，都有α⊥β，则称α垂直于W，记为α⊥W。

21、勾股定理：若α≠0，β≠0，且α⊥β，则||α±β||²=||α||²+||β||²。即直角三角形的斜边的平方等于两条直角边的平方和。

22、投影定理：设V是内积空间，而W是V的一个有限维子空间，∀α∈V，则存在唯一的β∈W，使得对于∀γ∈W，有d(α,β)≤d(α,γ)，称β为α在W上的投影。如果β₁,β₂,…,β_m是W的基，则α的投影β在该基下的坐标是G^-1(β₁,β₂,…,β_m)·G(β₁,β₂,…,β_m;α)。证明过程如下：

2.2 标准正交基、Schmidt方法

1、标准正交组：α₁,α₂,…,α_s是内积空间V中的向量组，如果：

（1）||α_i||=1，其中i=1,2,…,s；

（2）<α_i,α_j>=0，其中i≠j。

则称α₁,α₂,…,α_s为标准正交组。

2、标准正交组的性质：

（1）G(α₁,α₂,…,α_s)=Ⅰ_s，其中Ⅰ_s为s阶单位矩阵；

（2）α₁,α₂,…,α_s线性无关。

3、标准正交基：在n维内积空间中，由n个正交向量组成的基称为正交基。由n个标准正交向量组成的基称为标准正交基。

4、函数的Fourier逼近：记区间[0,2π]上的所有平方可积函数构成的空间为L²[0,2π]={f|∫_x∈[0,2π]|f(x)|²dx<∞}，定义内积运算=∫_x∈[0,2π]f(x)·g(x)dx，其中f、g∈L²[0,2π]，则向量组：

这2n+1个向量构成的向量组是L²[0,2π]的一个标准正交组。∀f(x)∈L²[0,2π]，则可用h(x)逼近f(x)，即h(x)～f(x)，其中h(x)为：

原理如下：

2.3 酉变换、正交变换

1、标准正交基构成的矩阵的性质：设α₁,α₂,…,α_n∈Cⁿ，且α₁,α₂,…,α_n是Cⁿ的标准正交基，令A=[α₁,α₂,…,α_n]∈C^n×n，A有什么性质?

2、酉变换的性质：设U是酉矩阵，定义线性变换：Cⁿ→Cⁿ，x→y=Ux，其中x∈Cⁿ，线性变换有何性质？

即两个向量的内积与这两个向量的像的内积相等，则：

（1）保内积：<(α),(β)>==(Uα)^HUβ=α^HU^HUβ=α^Hβ=<α,β>，即<(α),(β)>=<α,β>；

（2）保长度：||(α)||²=<(α),(α)>==(Uα)^HUα=α^HU^HUα=α^Hα=<α,α>=||α||²，即||(α)||=||α||；

（3）保距离：d((α),(β))=||(α)-(β)||=||(α-β)||=||α-β||=d(α,β)，即d((α),(β))=d(α,β)；

（4）保夹角：若α≠0，β≠0，α、β的夹角θ为：

则：

（5）保正交：若α⊥β，即<α,β>=0，则<(α),(β)>=<α,β>=0，即(α)⊥(β)。

3、酉矩阵的特征值的模为1，证明如下：

4、旋转变换：三阶矩阵A为：

则A是正交矩阵，表示三维空间绕x轴的旋转变换。

5、将矩阵视为线性变换1：对于复数域上的任意一个n阶方阵A，均存在n阶可逆阵P，使得P^-1AP=J成立，其中J为A的Jordan标准型。由P^-1AP=J得AP=PJ，将P按列分块为P=[p₁,p₂,…,p_n]，其中p_i是P的第i个列向量，由于P可逆，因此p₁,p₂,…,p_n构成Cⁿ的一个基。现在将矩阵A视为从Cⁿ到Cⁿ的线性变换，A(p₁,p₂,…,p_n)=(p₁,p₂,…,p_n)J，即线性变换A在基p₁,p₂,…,p_n下的矩阵表示为A的Jordan标准型J。

6、将矩阵视为线性变换2：设U为n阶酉矩阵，将U按列分块为U=[u₁,u₂,…,u_n]，其中u_i是U的第i个列向量，则u₁,u₂,…,u_n构成Cⁿ的一个标准正交基。对于任意一个复数域上的n阶方阵A，存在n阶酉矩阵U，使得U^-1AU=B，即AU=UB。现在将矩阵A视为从Cⁿ到Cⁿ的线性变换，A(u₁,u₂,…,u_n)=(u₁,u₂,…,u_n)B，即线性变换A在标准正交基u₁,u₂,…,u_n下的矩阵表示为B。

7、酉相似/正交相似：对于任意在复数域上的n阶方阵A、B，若存在n阶酉矩阵U，使得U^-1AU=U^HAU=B，则称A酉相似于B。对于任意在实数域上的n阶方阵A、B，若存在n阶正交矩阵U，使得U^-1AU=U^TAU=B，则称A正交相似于B。

2.4 幂等矩阵、正交投影

无

2.5 对称与反对称变换

无

2.6 Schur引理、正规矩阵

1、Schur引理：任意一个n阶复矩阵A都酉相似于一个上三角矩阵，即对于任意一个复数域上的n阶方阵A，存在n阶酉矩阵U，使得U^-1AU=U^HAU=B，其中B为上三角矩阵。证明如下：

2、正规矩阵：对于任意在复数域上的n阶方阵A，若A^HA=AA^H，则称A为正规矩阵。对角阵、Hermite矩阵、反Hermite矩阵与酉矩阵都是正规矩阵。

3、矩阵可以酉相似于对角阵⇔A是正规矩阵：对于任意在复数域上的n阶方阵A，存在n阶酉矩阵U，使得U^-1AU=U^HAU=Λ，其中Λ是对角阵⇔A^HA=AA^H。下面是证明过程：

2.7 Hermite变换、正规变换

无

2.8 Hermite矩阵、Hermite二次齐式

1、Hermite矩阵：对于任意在复数域上的n阶方阵A，若有A^H=A，则称A为Hermite矩阵。Hermite矩阵是正规矩阵。对于任意给定的n阶矩阵A，有：

（1）A +A^H、AA^H、A^HA都是Hermite矩阵；

（2）A-A^H是反Hermite矩阵。

2、Hermite矩阵的特征值均为实数：证明过程如下：

3、Gram矩阵是Hermite矩阵：内积运算的性质之一是：

设α₁,α₂,…,α_s是C上的内积空间V中的一个向量组，则α₁,α₂,…,α_s的Gram矩阵，即G(α₁,α₂,…,α_s)为：

因为：

所以G(α₁,α₂,…,α_s)是Hermite矩阵。

4、实二次型：对于实数域上的n阶方阵A，若A是实对称矩阵，即A^T=A，x为n维列向量，则x^TAx称为实二次型。

5、复二次型：对于复数域上的n阶方阵A，若A是Hermite矩阵，即A^H=A，x为n维列向量，则x^HAx称为复二次型。

6、对于复数域上的n阶方阵A，若A是Hermite矩阵，即A^H=A，∀x∈Cⁿ，则x^HAx是实数。证明过程如下：

7、Hermite矩阵的简单性质：

（1）已知A是Hermite矩阵，则A^k也是Hermite矩阵，其中k为正整数；

（2）已知A是可逆的Hermite矩阵，则A^-1也是Hermite矩阵；

（3）i为虚数i。已知A是Hermite矩阵，则iA是反Hermite矩阵。已知A是反Hermite矩阵，则iA是Hermite矩阵；

（4）已知A、B是Hermite矩阵，则kA+mB是Hermite矩阵，其中k、m为实数；

（5）已知A、B是Hermite矩阵，则AB是Hermite矩阵的充要条件是AB=BA。

8、矩阵是Hermite矩阵的充要条件：若A是n阶复矩阵，则：

（1）A是Hermite矩阵⇔对于任意X∈Cⁿ，X^HAX是实数；

（2）A是Hermite矩阵⇔对于任意n阶方阵S，S^HAS是Hermite矩阵。

2.9 正定二次齐式、正定Hermite矩阵

无

2.10 Hermite矩阵偶在复相合下的标准型

无

2.11 Rayleigh商

1、Rayleigh商：对于复数域上的n阶方阵A，若A是Hermite矩阵，即A^H=A，∀x≠0，且x∈Cⁿ，则称x^HAx/x^Hx是A的Rayleigh商，记R(x)=x^HAx/x^Hx，R(x)是实数。

2、Hermite矩阵的特征值与Rayleigh商的关系：对于在复数域上的n阶方阵A，若A为Hermite矩阵，即有A^H=A，则Hermite矩阵A的特征值均为实数。不妨将其n个特征值从大到小排列为：λ₁≥λ₂≥…≥λ_n，这n个特征值可能有重复的。则有：

（1）∀x≠0，且x∈Cⁿ，λ_n≤R(x)≤λ₁，其中R(x)是A的Rayleigh商，R(x)=x^HAx/x^Hx；

（2）∀x≠0，且x∈Cⁿ，则λ₁=max R(x)，λ_n=min R(x)。

证明过程如下：

---

END