线性代数与解析几何——Part4 欧式空间 & 酉空间

• 线性代数与解析几何——Part4 欧式空间 & 酉空间
  • 1. 欧氏空间
    • 1. 定义 & 性质
    • 2. 内积表示与标准正交基
    • 3. 欧氏空间的同构
    • 4. 欧氏空间的线性变换
    • 5. 欧氏空间的子空间
  • 2. 酉空间
    • 1. 定义 & 性质
    • 2. 酉变换
    • 3. Hermite变换
    • 4. 规范变换

1. 欧氏空间

1. 定义 & 性质

定义7.1.1
设$V$是实数域$\mathbf{R}$上的线性空间，如果$V$中的任意两个向量$\mathbf{a},\mathbf{b}$均按照某一法则对应一个实数，记作$(\mathbf{a},\mathbf{b})$，且满足：

1. 对称性：对任意两个向量$\mathbf{a},\mathbf{b}\in V$，有：
   $$(\mathbf{a},\mathbf{b})=(\mathbf{b},\mathbf{a})$$
2. 线性性：对任意实数$\lambda$和任意三个向量$\mathbf{a},\mathbf{b},\mathbf{c}\in V$，有：
   $$(\lambda \mathbf{a},\mathbf{b})=\lambda (\mathbf{a},\mathbf{b})$$
   $$(\mathbf{a}+\mathbf{b},\mathbf{c})=(\mathbf{a},\mathbf{c})+(\mathbf{b},\mathbf{c})$$
3. 正定性：对任意一个向量$\mathbf{a}\in V$，有$(\mathbf{a},\mathbf{a})\ge 0$，等号成立当且仅当$\mathbf{a}=0$。

则称$(\mathbf{a},\mathbf{b})$为向量$\mathbf{a},\mathbf{b}$的内积，定义了内记的实数域$\mathbf{R}$上的线性空间$V$称为欧几里得（Euclid）空间，简称欧氏空间。

对于欧氏空间，有Cauchy-Schwarz不等式：

定理7.1.1（Cauchy-Schwarz不等式）
设$V$是欧式空间，$(\cdot ,\cdot )$是$V$的内积，则对$V$当中的任意两个向量$\mathbf{a},\mathbf{b}$，有：
$$|(\mathbf{a},\mathbf{b})|\le \sqrt{(\mathbf{a},\mathbf{a})(\mathbf{b},\mathbf{b})}$$

定义 7.1.2
设$V$是欧式空间，$(\cdot ,\cdot )$是$V$的内积，对于任意的$\mathbf{a}\in V$，称
$$|\mathbf{a}|=\sqrt{(\mathbf{a},\mathbf{a})}$$
为$\mathbf{a}$的长度或者模。

模长具有如下性质：

1. 对称性：$d(\mathbf{a},\mathbf{b})=d(\mathbf{b},\mathbf{a})$
2. 正定性：$d(\mathbf{a},\mathbf{b})\ge 0$，等号成立当且仅当$\mathbf{a}=\mathbf{b}$
3. 三角不等式：$d(\mathbf{a},\mathbf{b})\le d(\mathbf{a},\mathbf{c})+d(\mathbf{b},\mathbf{c})$

2. 内积表示与标准正交基

定义7.2.1
在$n$为欧氏空间$V$当中，一组两两正交的非零向量称为正交向量组。由正交向量组构成的基称为正交基。由单位向量组构成的正交基成为标准正交基。

定理7.2.1（Schmidt正交化）
从$n$为欧氏空间$V$的任意一组基出发，可以构造一组标准正交基。

3. 欧氏空间的同构

定义7.3.1
实数域上两个欧氏空间$V$和$V^{\prime }$称为同构的，如果存在一个从$V$到$V^{\prime }$的一一映射$\sigma :V\to V^{\prime }$，满足：

1. $\sigma (\lambda \alpha +\mu \beta )=\lambda \sigma (\alpha )+\mu \sigma (\beta )$
2. $(\sigma (\alpha ),\sigma (\beta ))=(\alpha ,\beta )$

其中，$\alpha ,\beta$为$V$中的两个任意向量，$\lambda ,\mu$是两个任意实数。

定理7.3.1
两个有限维欧氏空间同构的充要条件是他们的维度相同。

4. 欧氏空间的线性变换

定义7.4.1
设$V$是一个$n$维的欧氏空间，$\mathcal{A}$是$V$上的一个线性变换，如果$\mathcal{A}$保持$V$的内积不变，即对于任意两个向量$\mathbf{a},\mathbf{b}\in V$，都有：
$$(\mathcal{A}(\mathbf{a}),(\mathbf{b}))=((a,b))$$
则称$\mathcal{A}$是$V$上的正交变换。

定理7.4.1
设$V$是一个$n$维的欧式空间，$\mathcal{A}$是$V$上的一个线性变换，则$\mathcal{A}$为正交变换当且仅当下列两个条件之一成立：

1. $\mathcal{A}$保持任意向量的模不变；
2. $\mathcal{A}$将标准正交基变换为标准正交基。

定义7.4.2
如果实方阵$\mathbf{A}$满足${\mathbf{A}}^{\mathbf{T}}\mathbf{A}=\mathbf{I}$或者${\mathbf{A}}^{-1}=\mathbf{A}$，则称方阵$\mathbf{A}$为正交矩阵。

定理7.4.2
欧式空间中的线性变换$\mathcal{A}$是正交变换的充要条件是$\mathcal{A}$在标准正交基下的矩阵$\mathbf{A}$是正交矩阵。

定理7.4.3
设$V$是$n$维欧氏空间，则：

1. 单位变换是正交变换；
2. 两个正交变换的复合仍然是正交变换；
3. 正交变换一定可逆，其逆变换也是正交变换。

由正交矩阵的定义可知，正交矩阵的行列式$det\mathbf{A}=\pm 1$。如果$\mathcal{A}$在一组基下的矩阵行列式为$1$，则称$\mathcal{A}$为第一类变换。如果正交变换$\mathcal{A}$在一组基下的矩阵行列式为$-1$，则称$\mathcal{A}$为第二类变换。

定理7.4.3
设$\mathcal{A}$是欧氏空间$V$上的正交变换，则$\mathcal{A}$的特征值的模都为$1$。
特别的，$\mathcal{A}$的实特征值（如果存在的话）只能是$1$或者$-1$。
如果$V$的维数是奇数且$\mathcal{A}$是第一类正交变换，则$\mathcal{A}$一定存在职位$1$的特征值。

定义7.4.3
设$V$是$n$维欧氏空间上的线性变换，$\mathcal{A}$是$V$上的线性变换。
如果$\mathcal{A}$满足$(\mathbf{a},\mathcal{A}(\mathbf{b}))=(\mathcal{A}(\mathbf{a}),\mathbf{b})$对$V$中的任意两个向量$\mathbf{a},\mathbf{b}$成立，则称$\mathcal{A}$是$V$上的对称变换。

定理7.4.5
设$\mathcal{A}$是欧氏空间上的线性变换，则$\mathcal{A}$是对称变换的充要条件是$\mathcal{A}$在任何一组标准正交基下的矩阵$\mathbf{A}$是实对称矩阵。

定理7.4.6
设$\mathcal{A}$是欧式空间$V$上的对称变换，则$\mathcal{A}$的不同特征值对应的特征向量相互正交。

定理7.4.7
实对称矩阵的特征值都是实数。

定理7.4.8
实对阵矩阵$\mathbf{A}$的属于不同特征值的特征向量必正交。

定理7.4.9
对于任意$n$阶实对称矩阵$\mathbf{A}$，存在一个$n$阶正交矩阵$\mathbf{T}$，使得${\mathbf{T}}^{-1}\mathbf{A}\mathbf{T}$为对角矩阵。

5. 欧氏空间的子空间

定义7.5.1
设$V_1,V_2$是欧式空间$V$的两个子空间，如果对于任意的${\mathbf{a}}_1\in V_1,{\mathbf{a}}_2\in V_2$，恒有$({\mathbf{a}}_1,{\mathbf{a}}_2)=0$，则称子空间$V_1,V_2$相互正交，记为$V_1\perp V_2$。
如果一个向量$\mathbf{a}$与子空间$V_1$中的任意一个向量均正交，则称向量$\mathbf{a}$与子空间$V_1$正交，记为$\mathbf{a}\perp V_1$。

定理7.5.1
如果子空间$V_1,V_2$相互正交，那么他们的和$V_1+V_2$是直和。推而广之，如果$V_1,V_2,...,V_r$两两相互正交，则它们的和$V_1+V_2+...+V_r$是直和。

定义7.5.2
如果$V_1\perp V_2$且$V=V_1+V_2$，那么子空间$V_2$称为子空间$V_1$的正交补空间或简称为正交补。
显然，如果$V_2$是$V_1$的正交补，那么$V_1$也是$V_2$的正交补。

定理7.5.2
欧式空间$V$中任意一个子空间$V_1$都有唯一的正交补空间。

2. 酉空间

1. 定义 & 性质

定义7.6.1
设$V$是复数域上的线性空间，如果对于$V$内的任意两个向量$\mathbf{a},\mathbf{b}$都按某一法则对应于某一个复数，记作$(\mathbf{a},\mathbf{b})$，且满足：

1. 共轭对称性：对任意两个向量$\mathbf{a},\mathbf{b}\in V$，有$(\mathbf{a},\mathbf{b})=\overline{(\mathbf{b},\mathbf{a})}$
2. 线性性：对任意一个复数$\lambda$和三个向量$\mathbf{a},\mathbf{b},\mathbf{c}\in V$，有$(\mathbf{a},\lambda \mathbf{b})=\lambda (\mathbf{a},\mathbf{b}),(\mathbf{a},\mathbf{b}+\mathbf{c})=(\mathbf{a},\mathbf{b})+(\mathbf{a},\mathbf{c})$
3. 正定性：对于任意一个向量$\mathbf{a}\in V$，有$(\mathbf{a},\mathbf{a})\ge 0$，等号成立当且仅当$\mathbf{a}=0$。

则称$(\mathbf{a},\mathbf{b})$为$\mathbf{a}$和$\mathbf{b}$的内积。
定义了内积的复数域$\mathbf{C}$上的线性空间$V$称为酉空间。

定义7.6.2
有空间中的两个向量$\mathbf{a},\mathbf{b}$满足$(\mathbf{a},\mathbf{b})=0$，则称$\mathbf{a}$和$\mathbf{b}$相互正交或垂直，记为$\mathbf{a}\perp \mathbf{b}$。

定理7.6.1
设$V$是$n$维酉空间，则：

1. $V$中两两正交的一组非零向量一定是线性无关的；
2. $V$中也存在标准正交基，即存在一组基${\mathbf{e}}_1,..,{\mathbf{e}}_n$，满足$({\mathbf{e}}_i,{\mathbf{e}}_j)={\delta }_{i,j}$，$i,j=1,2,...,n$；
3. 欧式空间的Schmidt正交化过程在酉空间一样有效，即从酉空间中任意一组基出发，可以通过完全一样的Schmidt正交化过程，得到一组标准正交基。

我们摘录书中给出的欧氏空间与酉空间的对比如下：

欧氏空间	酉空间
内积$(\mathbf{a},\mathbf{b})$为实数，满足： 1. $(\mathbf{a},\mathbf{b})=(\mathbf{b},\mathbf{a})$ 2. $(\lambda \mathbf{a},\mathbf{b})=(\mathbf{a},\lambda \mathbf{b})=\lambda (\mathbf{a},\mathbf{b})$	内积$(\mathbf{a},\mathbf{b})$为复数，满足： 1. $(\mathbf{a},\mathbf{b})=\overline{(\mathbf{b},\mathbf{a})}$ 2. $(\lambda \mathbf{a},\mathbf{b})=(\mathbf{a},\lambda \mathbf{b})=\lambda (\mathbf{a},\mathbf{b})$
模$|\mathbf{a}|=\sqrt{(\mathbf{a},\mathbf{a})}\ge 0$ 向量$\mathbf{a}$的单位向量化$\frac{\mathbf{a}}{|\mathbf{a}|}$	模$|\mathbf{a}|=\sqrt{(\mathbf{a},\mathbf{a})}\ge 0$ 向量$\mathbf{a}$的单位向量化$\frac{\mathbf{a}}{|\mathbf{a}|}$
Cauchy-Schwarz不等式 $(\mathbf{a},\mathbf{b}{)}^2\le (\mathbf{a},\mathbf{a})(\mathbf{b},\mathbf{b})$ 即$|(\mathbf{a},\mathbf{b})|\le |\mathbf{a}||\mathbf{b}|$ 当且仅当$\mathbf{a},\mathbf{b}$线性相关时等号成立	Cauchy-Schwarz不等式 $(\mathbf{a},\mathbf{b})\overline{(\mathbf{a},\mathbf{b})}\le (\mathbf{a},\mathbf{a})(\mathbf{b},\mathbf{b})$ 即$|(\mathbf{a},\mathbf{b})|\le |\mathbf{a}||\mathbf{b}|$ 当且仅当$\mathbf{a},\mathbf{b}$线性相关时等号成立
非零向量$\mathbf{a},\mathbf{b}$的夹角$\phi =arccos\frac{(\mathbf{a},\mathbf{b})}{|\mathbf{a}||\mathbf{b}|}$	无定义
向量$\mathbf{a},\mathbf{b}$正交，即$(\mathbf{a},\mathbf{b})=0$	向量$\mathbf{a},\mathbf{b}$正交，即$(\mathbf{a},\mathbf{b})=0$
三角不等式成立 $|\mathbf{a}+\mathbf{b}|\le |\mathbf{a}|+|\mathbf{b}|$	三角不等式成立 $|\mathbf{a}+\mathbf{b}|\le |\mathbf{a}|+|\mathbf{b}|$
度量矩阵$\mathbf{G}$为是对称矩阵 设${\mathbf{e}}_1,...,{\mathbf{e}}_n$为基， ${\sigma }_{ij}=({\mathbf{e}}_i,{\mathbf{e}}_j)={\sigma }_{ji}$ 度量矩阵$\mathbf{G}=({\sigma }_{ij})={\mathbf{G}}^T$	度量矩阵$\mathbf{G}$为是对称矩阵 设${\mathbf{e}}_1,...,{\mathbf{e}}_n$为基， ${\sigma }_{ij}=({\mathbf{e}}_i,{\mathbf{e}}_j)=\overline{({\mathbf{e}}_j,{\mathbf{e}}_i)}=\overline{{\sigma }_{ji}}$ 度量矩阵$\mathbf{G}=({\sigma }_{ij})=(\overline{\mathbf{G}}{)}^T$
用Schmidt方法可以将任意一组基改造为标准正交基${\mathbf{e}}_1,...,{\mathbf{e}}_n$ $({\mathbf{e}}_i,{\mathbf{e}}_j)={\delta }_{ij},i,j=1,2,...,n$	用Schmidt方法可以将任意一组基改造为标准正交基${\mathbf{e}}_1,...,{\mathbf{e}}_n$ $({\mathbf{e}}_i,{\mathbf{e}}_j)={\delta }_{ij},i,j=1,2,...,n$
在标准正交基下，$\mathbf{a},\mathbf{b}={\sum }_{i=1}^n{a}_i{b}_i$	在标准正交基下，$\mathbf{a},\mathbf{b}={\sum }_{i=1}^n{\overline{a}}_i{b}_i$

2. 酉变换

定义7.6.3
设$\mathcal{U}$是酉空间$V$上的线性变换，如果$\mathcal{U}$保持内积不变，即对一切向量$\mathbf{a},\mathbf{b}\in V$有
$$(\mathcal{U}\mathbf{a},\mathcal{U}\mathbf{b})=(\mathbf{a},\mathbf{b})$$
则称$\mathcal{U}$是酉空间$V$上的一个酉变换。

定义7.6.4
设$\mathbf{U}$是一个$n$阶复矩阵，如果它满足${\mathbf{U}}^{\mathbf{H}}\mathbf{U}=\mathbf{I}$或者${\mathbf{U}}^{-1}={\mathbf{U}}^{\mathbf{H}}$，则称$\mathbf{U}$为酉矩阵。

定理7.6.2
设$\mathcal{U}$是酉空间$V$上的一个线性变换，则下列各命题互相等价：

1. $\mathcal{U}$是一个酉变换
2. $\mathcal{U}$保持向量的模不变，即对任意的$\mathbf{a}\in V$，有$|\mathcal{U}\mathbf{a}|=|\mathbf{a}|$
3. $\mathcal{U}$把酉空间的标准正交基变为标准正交基；
4. $\mathcal{U}$在标准正交基下的矩阵是酉矩阵。

定理7.6.3
设$U(V)$是$n$为酉空间$V$中所有酉变换的全体所形成的集合，则：

1. 单位变换$\mathcal{E}\in U(V)$
2. 如果${\mathcal{U}}_1,{\mathcal{U}}_2\in U(V)$，则${\mathcal{U}}_1\circ {\mathcal{U}}_2\in U(V)$;
3. 如果$\mathcal{U}\in U(V)$，则${\mathcal{U}}^{-1}\in U(V)$

3. Hermite变换

定义7.6.5
设$\mathcal{A}$是$n$维酉空间$V$上的线性变换，如果对$V$中任意两个向量$\mathbf{a},\mathbf{b}$有$(\mathbf{a},\mathcal{A}\mathbf{b})=(\mathcal{A}\mathbf{a},\mathbf{b})$，则称$\mathcal{A}$是酉空间$V$上的Hermite变换。

定义7.6.6
称满足$\mathbf{A}={\mathbf{A}}^{\mathbf{H}}$的复矩阵为Hermite矩阵。

4. 规范变换

定义7.6.7
设$\mathcal{A}$是$n$维酉空间$V$上的一个线性变换，如果存在$V$上的线性变换${\mathcal{A}}^{\ast }$，使得对于任意两个向量$\mathbf{a},\mathbf{b}$，有$(\mathcal{A}\mathbf{a},\mathbf{b})=(\mathbf{a},{\mathcal{A}}^{\ast }\mathbf{b})$，则称${\mathcal{A}}^{\ast }$为$\mathcal{A}$的共轭变换。

线性变换的共轭关系满足如下性质：

1. ${\mathcal{E}}^{\ast }=\mathcal{E}$，即单位变换的共轭等于其本身；
2. $({\mathcal{A}}^{\ast }{)}^{\ast }=\mathcal{A}$，即线性变换共轭的共轭等于其本身；
3. $(\lambda \mathcal{A}{)}^{\ast }=\overline{(}\lambda ){\mathcal{A}}^{\ast }$
4. $(\mathcal{A}\pm \mathcal{B}{)}^{\ast }={\mathcal{A}}^{\ast }\pm {\mathcal{B}}^{\ast }$
5. $(\mathcal{A}\circ \mathcal{B}{)}^{\ast }={\mathcal{B}}^{\ast }\circ {\mathcal{A}}^{\ast }$

定义7.6.8
设$\mathcal{A}$是$n$维酉空间上的一个线性变换，如果$\mathcal{A}$和它的共轭变换${\mathcal{A}}^{\ast }$可交换，即$\mathcal{A}{\mathcal{A}}^{\ast }={\mathcal{A}}^{\ast }\mathcal{A}$，则称变换$\mathcal{A}$是一个规范变换。
规范变换在标准正交基下的矩阵满足$\mathbf{A}{\mathbf{A}}^{\mathbf{H}}={\mathbf{A}}^{\mathbf{H}}\mathbf{A}$，我们称满足上式的矩阵为规范矩阵。

定理7.6.4
设$\mathcal{A}$是$n$维酉空间$V$中的一个线性变换，如果$W$是$\mathcal{A}$的不变子空间（即$W$是$V$的子空间，且对任意的$\mathbf{a}\in W$，有$\mathcal{A}\mathbf{a}\in W$），则$W$在$V$中的正交补空间$W^{\perp }$是$\mathcal{A}$的共轭变换${\mathcal{A}}^{\ast }$的不变子空间。

定理7.6.5
设$\lambda$是$n$维酉空间上的规范变换$\mathcal{A}$的特征值，$\mathbf{x}$是对应的特征向量，则$\overline{\lambda }$是$\mathcal{A}$的共轭变换${\mathcal{A}}^{\ast }$的特征值，$\mathbf{x}$是对应的特征向量。

定理7.6.6
设$\mathcal{A}$是$n$维酉空间$V$上的规范变换，则$\mathcal{A}$的属于不同特征值的特征向量相互正交。

定理7.6.7
设$\mathcal{A}$是$n$维酉空间$V$中任意规范变换，则存在$V$的一组标准正交基，使得$\mathcal{A}$在这组基下的矩阵$\mathbf{A}$为对角矩阵。

定义7.6.9
对于复数域上的$n$阶方阵$\mathbf{A},\mathbf{B}$，如果存在$n$阶酉矩阵$\mathbf{U}$，使得$\mathbf{A}={\mathbf{U}}^{-1}\mathbf{B}\mathbf{U}$，${\mathbf{U}}^{-1}={\mathbf{U}}^H$，则称$\mathbf{A}$酉相似于$\mathbf{B}$。

定理7.6.8
任一规范矩阵$\mathbf{A}$都可有相似于对角矩阵。
反之，复数域上任意酉相似于对角矩阵的矩阵一定是规范矩阵。

定理7.6.9
设$\mathcal{A}$是酉空间$V$中任一酉变换，则：

1. $\mathcal{A}$的特征值的模为1；
2. 存在一组标准正交基，使得$\mathcal{A}$在这组基下对应的矩阵为对角矩阵。

定理7.6.10
设$\mathcal{A}$是酉空间$V$中的任意一个Hermite变换，则：

1. $\mathcal{A}$的特征值一定是实数；
2. 存在一组标准正交基，使得$\mathcal{A}$在这组基下对应的矩阵为实对角矩阵。