矩阵分析笔记——01 线性空间与坐标变换（part 1）
! : 说明：本系列笔记是基于史荣昌、魏丰老师的《矩阵分析》一书，以及魏丰老师的PPT个人归纳整理而成的。
如有错误或者其他问题，请联系我进行修改
一. 线性空间
1.线性空间的定义
非空集合 V 是 数域 F 上的 线性空间：
则集合V中的两种代数运算——加法/数乘，满足八条运算律：
| 运算 | 内容 | 举例 |
|---|---|---|
| 加 | 交换律 | a+b=b+a |
| 结合律 | （a+b）+c=a+(b+c) | |
| 零 | 存在一个元素**“0”**，对V中任意元素a，有 a+0=a | |
| 负元素 | 对V中任意元素a，都存在元素b：a+b=0 | |
| 乘 | 1 | 1·a=a |
| 结合律 | k(la) = (kl) a | |
| 分配 | (k+l)a = ka+la | |
| 数乘 | k(a+b) = ka+kb |
只要符合以上定义，则可以由特定特点的集合构成对应的线性空间。
例如：
- 复数域上全体m*n型矩阵，构成集合 C m ∗ n C^{m*n} Cm∗n,是复数域 C C C上的线性空间。
- 实数域 R R R上所有小于等于 n 的多项式集合 R [ x ] n R[x]_n R[x]n，构成实数域 R R R上的线性空间。
- 全体正的实数 R + R^{+} R+在以下运算定义下也构成线性空间：
加法： a ⊕ b = a b ， ∀ a , b ∈ R + a⊕b=ab，{\forall a,b \in R^{+}} a⊕b=ab，∀a,b∈R+
数乘： k ⊙ a = a k , ∀ a , k ∈ R + k⊙a=a^{k},{\forall a,k \in R^{+}} k⊙a=ak,∀a,k∈R+
验证：
1. a ⊕ b = a b , b ⊕ a = a b a⊕b=ab,b⊕a=ab a⊕b=ab,b⊕a=ab 2，6，7，8条同理，都容易进行验证
对于3，4，5条:
a ⊕ " 0 " = a = a " 0 " a⊕"0"=a=a"0" a⊕"0"=a=a"0",可知此空间下的“0元素”为1
a ⊕ b = a b = " 0 " = 1 a⊕b=ab="0"=1 a⊕b=ab="0"=1,则对于元素a，其负元素为 1 / a 1/a 1/a
1 ⊙ a = a 1 = a 1⊙a=a^{1}=a 1⊙a=a1=a,成立
- 在 R ∞ R^{\infty} R∞中满足cauchy条件的无限序列组成的子集合也构成R上的线性空间。
有的集合定义了加法与数乘，但不一定能构成线性空间。
例如：
- 系数在实数域R上，所有次数为n的n次多项式 f ( x ) f(x) f(x)构成的集合，加法与数乘按通常规定。并不是一个R上的线性空间。
关键：在于通过八条运算律，来验证此空间的封闭性。
其中结合、分配、数乘等运算比较容易验证，可以考虑首先验证 1，0 和 负元素 这三条。
特殊解空间
①A为m*n的矩阵，齐次线性方程组 A X = 0 AX=0 AX=0的所有解的集合构成实数域R（或者复数域C）上的线性空间。这个空间称为 A X = 0 AX=0 AX=0的解空间，或矩阵A的核（零）空间，常用 N ( A ) N(A) N(A)表示
- 但 A X = b AX=b AX=b的解的集合不构成线性空间。
②设A为m*n的矩阵，x为n维列向量，则m维列向量集合
V = y ∈ R m ( C m ) ∣ y = A x , x ∈ R n ( C n ) , A ∈ R m n ( C m n ) V={y \in R^{m}(C ^{m}) | y=Ax,x \in R^{n}(C ^{n}),A \in R^{mn}(C ^{mn}) } V=y∈Rm(Cm)∣y=Ax,x∈Rn(Cn),A∈Rmn(Cmn)
构成线性空间，称为A的列空间或者A的值域。常用 R ( A ) R(A) R(A)表示。
2.向量的线性相关无关
个人喜欢把线性相关无关的问题，类比成整体颜色与三原色之间的关系：
在RGB体系中，除了红黄蓝外，其余的颜色都可以用红黄蓝的线性叠加来进行表示。
整体颜色的秩就是3，红黄蓝就是一个最大线性无关组。
红黄蓝无关，则取其中一部分量也无关；即整体无关可以推到部分无关
红黄橙相关，那么再任意加一个颜色，橙依然可以用红黄线性表示，即部分相关可以推到整体相关
其他性质也可用颜色进行类比（个人觉得这个例子比较好Hhhh）
- 含零向量的向量组一定线性相关
- 等价向量组的秩相同
- …
向量组的不同程度/无关程度，可以用 秩 作为衡量标准，秩是唯一的，但极大线性无关的表示是不唯一的。
二.基与坐标、坐标变换
1.定义
V V V为数域 F F F上的一个线性空间。若 V V V中存在 n n n个线性无关向量 α 1 ， . . α n α_1，..α_n α1，..αn，使得任意一个向量 α α α都可以由 α 1 ， . . α n α_1，..α_n α1，..αn线性表出
α = k 1 α 1 + . . . + k n α n α=k_1α_1+...+k_nα_n α=k1α1+...+knαn
则 α 1 ， . . α n α_1，..α_n α1，..αn为 V V V的一个基底， ( k 1 , . . k n ) T (k_1,..k_n)^{T} (k1,..kn)T为向量 α α α在基底下的坐标。
此时 V V V为一个 n n n维线性空间，记为 d i m V = n . dimV=n. dimV=n.
- 维数唯一确定，但基底不唯一
2.基变换与坐标变换
设 α α α为旧基底， β β β为新基底，则从旧基底到新基底有过度矩阵P
[ β 1 , β 2 , . . β n ] = [ α 1 , α 2 , . . . α n ] P [β_1,β_2,..β_n] = [α_1,α_2,...α_n]P [β1,β2,..βn]=[α1,α2,...αn]P
- 过度矩阵P是可逆的。
- 注意是从谁到谁的过渡
三.线性空间的子空间
1.定义
对线性空间 V V V，有 W W W是 V V V的一个非空子集合，对任意 α ， β ∈ W , 和 k , l ∈ F α，β \in W,和 k,l \in F α，β∈W,和k,l∈F都有 k α + l β ∈ W kα+lβ \in W kα+lβ∈W
则称 W W W是 V V V的一个子空间。
或：
如果 W W W是数域F上的n维线性空间 V V V的子集合，且 W W W中的元素，对于加法、数乘运算都具有封闭性，那么则称是 W W W是线性空间 V V V的一个线性子空间，简称子空间。
-
对任意有限维空间，必有两个平凡的子空间，即 0 与 V {0}与V 0与V本身。
-
有限生成子空间：
span{α_1,α_2,…α_n} = { k 1 α 1 + . . . + k s α s ∣ ∀ k i ∈ F k_1α_1+...+k_sα_s | \forall k_i \in F k1α1+...+ksαs∣∀ki∈F}
α 1 , . . α s α_1,..α_s α1,..αs：生成元
span{α_1,α_2,…α_n}的基底： 生成元向量组的极大无关组
span{α_1,α_2,…α_n}的维数：生成元向量组的秩 -
矩阵的特征子空间
矩阵A的一个特征值λ的全部特征向量构成的集合，也是一个R©的子空间
（矩阵不同特征值对应的特征向量自然正交，而相同特征值对应的特征向量线性相关）
比较典型的线性子空间：
- 解空间
- 特征值空间
- 有限生成子空间
s p a n span span{ α 1 , . . , α s \alpha_1,..,\alpha_s α1,..,αs}={ k 1 α 1 , . . , k s α s k_1\alpha_1,..,k_s\alpha_s k1α1,..,ksαs}
- tips:
- 向量组的秩=空间的维数
- 向量组的最大无关组=空间的基底
2.子空间的交、和
V 1 , V 2 V_1,V_2 V1,V2是 V V V的两个子空间：
- 交空间：
V 1 ∩ V 2 = V_1∩V_2= V1∩V2={ α ∣ α ∈ V 1 ， 且 α ∈ V 2 \alpha|\alpha \in V_1，且\alpha \in V_2 α∣α∈V1，且α∈V2}
交空间，即两个方程组的所有公共解所构成的空间。
设 α ∈ V 1 ∩ V 2 \alpha \in V_1∩V_2 α∈V1∩V2,即 α ∈ V 1 且 α ∈ V 2 \alpha \in V_1且\alpha \in V_2 α∈V1且α∈V2,则有：
α = k 1 α 1 + k 2 α 2 = k 3 β 1 + k 4 β 1 \alpha=k_1\alpha_1+k_2\alpha_2=k_3\beta_1+k_4\beta_1 α=k1α1+k2α2=k3β1+k4β1
- 和空间：
V 1 + V 2 = V_1+V_2= V1+V2={ α = α 1 + α 2 ∣ α 1 ∈ V 1 ， 且 α 2 ∈ V 2 \alpha=\alpha_1+\alpha_2|\alpha_1 \in V_1，且\alpha_2 \in V_2 α=α1+α2∣α1∈V1，且α2∈V2}
V 1 + V 2 = s p a n V_1+V_2=span V1+V2=span{ α 1 , α 2 , β 1 , β 2 \alpha_1,\alpha_2,\beta_1,\beta_2 α1,α2,β1,β2}
- 定理：维数公式
d i m V 1 + d i m V 2 = d i m ( V 1 + V 2 ) + d i m ( V 1 ∩ V 2 ) dimV_1+dimV_2=dim(V_1+V_2)+dim(V_1∩V_2) dimV1+dimV2=dim(V1+V2)+dim(V1∩V2)
直和：
若 V 1 ∩ V 2 = 0 V_1∩V_2=0 V1∩V2=0，则称 V 1 + V 2 V_1 + V_2 V1+V2为直和，记为 V 1 ⊕ V 2 V_1 ⊕ V_2 V1⊕V2
四.线性映射
1.线性映射
- 线性映射： V 1 → V 2 V_1→V_2 V1→V2
- 线性函数 ： V F → F V_F→F VF→F
- 线性变换： V 1 → V 1 V_1→V_1 V1→V1
线性映射：
对向量的加，数乘有封闭性。
即：
A ( α 1 + α 2 ) = A ( α 1 ) + A ( α 2 ) \mathcal{A}(\alpha_1+\alpha_2)=\mathcal{A}(\alpha_1)+\mathcal{A}(\alpha_2) A(α1+α2)=A(α1)+A(α2);
A ( λ α 1 ) = λ A ( α 1 ) \mathcal{A}(\lambda\alpha_1)=\lambda\mathcal{A}(\alpha_1) A(λα1)=λA(α1)
例如：积分、微分也是线性映射
微分：
设映射 L ： R [ x ] n + 1 → R [ x ] n \mathcal{L}：R[x]_{n+1}→R[x]_n L：R[x]n+1→R[x]n由下式确定：
L ( f ( x ) ) = d d x f ( x ) , f ( x ) ∈ R [ x ] n + 1 \mathcal{L}(f(x))=\frac{d}{dx}f(x),f(x) \in R[x]_{n+1} L(f(x))=dxdf(x),f(x)∈R[x]n+1
积分：
设映射 S ： R [ x ] n → R [ x ] n + 1 \mathcal{S}：R[x]_{n}→R[x]_{n+1} S：R[x]n→R[x]n+1由下式确定： S ( f ( x ) ) = ∫ x 0 f ( t ) d t , f ( x ) ∈ R [ x ] n \mathcal{S}(f(x))=\int^{0}_{x}f(t)dt,f(x)\in R[x]_{n} S(f(x))=∫x0f(t)dt,f(x)∈R[x]n
线性映射的矩阵表示
A ( α 1 , . . , α n ) = ( β 1 , . . . , β m ) A \mathcal{A}(\alpha_1,..,\alpha_n)=(\beta_1,...,\beta_m)A A(α1,..,αn)=(β1,...,βm)A
矩阵 A A A称为线性映射， A \mathcal{A} A在基 ( α 1 , . . , α n ) (\alpha_1,..,\alpha_n) (α1,..,αn)与基 ( β 1 , . . . , β m ) (\beta_1,...,\beta_m) (β1,...,βm)下的矩阵表示。
定理
- 两组映射的过渡关系
B = Q − 1 A P B=Q^{-1}AP B=Q−1AP
- 等价
设 A , B ∈ F m × n A,B \in F^{m×n} A,B∈Fm×n，若存在 Q ∈ F m m × m , P ∈ F n n × n Q \in F_m^{m×m},P\in F_n^{n×n} Q∈Fmm×m,P∈Fnn×n，满足:
B = Q A P B=QAP B=QAP
则称 B B B与 A A A等价。
1.线性映射的值域、核
后续更新