线性代数——矩阵与线性方程组

一、矩阵

1.1 行列式
  考虑向量${\mathbf{a}}_1=(a_{11},a_{12})$，${\mathbf{a}}_2=(a_{21},a_{22})$，两向量组成的平行四边形面积为$$S=|{\mathbf{a}}_1||{\mathbf{a}}_2|sin⟨{\mathbf{a}}_1,{\mathbf{a}}_2⟩=a_{11}{a}_{22}-a_{12}{a}_{21}$$定义行列式为$$\left|\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right|=a_{11}{a}_{22}-a_{12}{a}_{21}$$n阶行列式在几何中由n个n维向量组成，运算结果为n个向量为邻边的n维图形的超体积。
  将n阶行列式$|\mathbf{A}|$的第i行与第j列元素去掉，组成的行列式称为$a_{ij}$的余子式，记为${\mathbf{M}}_{ij}$，且将加符号权的余子式称为代数余子式，记为${\mathbf{A}}_{ij}=(-1{)}^{i+j}{\mathbf{M}}_{ij}$。行列式与其代数余子式存在关系如下$$|\mathbf{A}|=\sum _{j=1}^n{a}_{ij}{\mathbf{A}}_{ij}=\sum _{i=0}^n{a}_{ij}{\mathbf{A}}_{ij}$$且$$\sum _{j=1}^n{a}_{ij}{\mathbf{A}}_{kj}=\sum _{i=0}^n{a}_{ij}{\mathbf{A}}_{ik}=0$$
  范德蒙德【Vandermonde】行列式是一种特殊的行列式，形如$$\left|\begin{array}{cccc}1& 1& ...& 1\\ x_1& x_2& ...& x_n\\ ...& ...& & ...\\ x_1^{n-1}& x_2^{n-1}& ...& x_n^{n-1}\end{array}\right|=\prod _{1\le i<j\le n}(x_j-x_i)$$
1.2 矩阵
  矩阵由若干行（列）向量组成，其行（列）向量之间存在一定的关系，并反应了矩阵的本质。由$m\times n$个数$a_{ij}$排成的矩阵结构为$$\mathbf{A}=\left(\begin{array}{cccc}{a}_{11}& a_{12}& ...& a_{1n}\\ a_{21}& a_{22}& ...& a_{2n}\\ ...& ...& & ...\\ a_{m1}& a_{m2}& ...& a_{mn}\end{array}\right)$$记$(a_{ij}{)}_{m\times n}$。当$m=n$时，矩阵称为方阵。
  对于矩阵$\mathbf{A}$的元素的代数余子式排列为$${\mathbf{A}}^{\ast }=\left(\begin{array}{cccc}{A}_{11}& A_{21}& ...& A_{n1}\\ A_{12}& A_{22}& ...& A_{n2}\\ ...& ...& & ...\\ A_{1n}& A_{2n}& ...& A_{nn}\end{array}\right)$$称为矩阵的伴随矩阵，其有$$\mathbf{A}{\mathbf{A}}^{\ast }={\mathbf{A}}^{\ast }\mathbf{A}=|\mathbf{A}|E$$  考虑矩阵$\mathbf{A}$与$\mathbf{B}$，有$\mathbf{A}\mathbf{B}=\mathbf{E}$，则称$\mathbf{A}$为可逆矩阵，并称$\mathbf{B}$为$\mathbf{A}$的逆矩阵，记为$$\mathbf{B}={\mathbf{A}}^{-1}$$矩阵可逆的充要条件为$|\mathbf{A}|\ne 0$，且$${\mathbf{A}}^{-1}={\mathbf{A}}^{\ast }/|\mathbf{A}|$$
1.3 初等矩阵
  对于矩阵，定义初等变换，包括：
  -交换矩阵的两行（列）；
  -以一个非零常数$k$乘矩阵的某一行（列）所有元素；
  -把矩阵的某一行（列）所有元素乘以一个常数$k$后加到另一行（列）对应的元素。
由单位矩阵经过仅一次初等变换的矩阵称为初等矩阵。若矩阵$\mathbf{A}$可逆，那么$\mathbf{A}=\prod {\mathbf{P}}_i$，其中${\mathbf{P}}_i$是初等矩阵。对于$\mathbf{A}$进行初等行（列）变换，相当于左（右）乘一个初等矩阵$\mathbf{P}$。
  对于矩阵$\mathbf{A}$，可以通过初等变换求得其逆，即$$(\mathbf{A},\mathbf{E})\to (\mathbf{E},{\mathbf{A}}^{-1})$$上述式等价于$\mathbf{P}\mathbf{A}=\mathbf{E}$，则$\mathbf{P}={\mathbf{A}}^{-1}$。
  矩阵$\mathbf{A}$的非零子式的最高阶数称为矩阵$\mathbf{A}$的秩，记作$R(\mathbf{A})$。矩阵经过初等变换后，其秩不变。

---

二、向量组

2.1 线性相关性
  设m个n维向量${\mathbf{a}}_1,...,{\mathbf{a}}_{\mathbf{m}}$，若存在不全为0的$k$，使得$$k_1{\mathbf{a}}_1+...+k_m{\mathbf{a}}_m=0$$则称向量组${\mathbf{a}}_1,...,{\mathbf{a}}_{\mathbf{m}}$线性相关，若仅有$k=0$满足上述式，则称为线性无关。
  考虑n维向量$\mathbf{b}$，若$\mathbf{b}$能表示成${\mathbf{a}}_1,...,{\mathbf{a}}_{\mathbf{m}}$的线性组合，则称$\mathbf{b}$被$\{{\mathbf{a}}_m\}$线性表出。向量组${\mathbf{a}}_1,...,{\mathbf{a}}_{\mathbf{m}}$线性相关的充要条件为向量组中至少有一个向量可以由其余的向量线性表出。

2.2 线性极大无关组
  考虑向量组$\{{\mathbf{a}}_m\}$，其部分向量组成的向量组$\{{\mathbf{a}}_k\}$线性无关且$\{{\mathbf{a}}_m\}$可由$\{{\mathbf{a}}_k\}$线性表出，则称$\{{\mathbf{a}}_k\}$是$\{{\mathbf{a}}_m\}$的一个极大线性无关组。向量组$\{{\mathbf{a}}_m\}$的极大线性无关组的向量个数称为向量组的秩。
  若向量组$\{{\mathbf{a}}_s\}$的任一向量都可以被$\{{\mathbf{b}}_t\}$线性表出，反之亦然，则称向量组等价，记$\{{\mathbf{a}}_m\}\simeq \{{\mathbf{b}}_t\}$。等价向量组的秩相等。

2.3 向量空间
  若${\mathbf{\xi }}_1,{\mathbf{\xi }}_2,...,{\mathbf{\xi }}_n$是${\mathbf{R}}^n$的线性无关有序向量组，且向量$\mathbf{a}$可以表示为$$\mathbf{a}=a_1{\mathbf{\xi }}_1+a_2{\mathbf{\xi }}_2+...+n{\mathbf{\xi }}_n$$则称$\{{\mathbf{\xi }}_n\}$是${\mathbf{R}}^n$的一个基，$(a_1,a_2,...,a_n)$是$\mathbf{a}$在该基下的坐标。
  若$\{{\mathbf{\xi }}_n\}$与$\{{\mathbf{\eta }}_n\}$是${\mathbf{R}}^n$的两个基，且$$({\mathbf{\eta }}_1,{\mathbf{\eta }}_2,...,{\mathbf{\eta }}_n)=({\mathbf{\xi }}_1,{\mathbf{\xi }}_2,...,{\mathbf{\xi }}_n)\mathbf{C}$$则称其为基变换，$\mathbf{C}$是过度矩阵。对于向量$\mathbf{a}$，若有$$\mathbf{a}=({\mathbf{\xi }}_1,{\mathbf{\xi }}_2,...,{\mathbf{\xi }}_n)\mathbf{x}=({\mathbf{\eta }}_1,{\mathbf{\eta }}_2,...,{\mathbf{\eta }}_n)\mathbf{y}$$那么有$$\mathbf{x}=\mathbf{C}\mathbf{y}$$称为坐标变换。
  若基的向量之间有$${\mathbf{\xi }}_i^T{\mathbf{\xi }}_j=\{\begin{array}{rlrl}& 0,& & i\ne j\\ & 1,& & i=j\end{array}$$则称该基为规范正交基。
  施密特标准正交化将基化为规范正交基，考虑基$\{{\mathbf{a}}_s\}$对应的正交基为$\{{\mathbf{b}}_s\}$，那么有$$\begin{gathered} {\mathbf{b}}_1={\mathbf{a}}_1 \\ {\mathbf{b}}_2={\mathbf{a}}_2-k_1{\mathbf{b}}_1 \end{gathered}$$且$⟨{\mathbf{b}}_1,{\mathbf{b}}_2⟩=0$，故$$⟨{\mathbf{b}}_1,{\mathbf{a}}_2⟩-k⟨{\mathbf{b}}_1,{\mathbf{b}}_1⟩=0$$易得$$k_1=⟨{\mathbf{b}}_1,{\mathbf{a}}_2⟩/⟨{\mathbf{b}}_1,{\mathbf{b}}_1⟩$$同理，对于$${\mathbf{b}}_n={\mathbf{a}}_n-\sum _{i=1}^{n-1}{k}_i{\mathbf{b}}_i$$且$⟨{\mathbf{b}}_{n-1},{\mathbf{b}}_n⟩=0$，$⟨{\mathbf{b}}_{n-2},{\mathbf{b}}_n⟩=0$，$...$，$⟨{\mathbf{b}}_1,{\mathbf{b}}_n⟩=0$，故$$\begin{gathered} ⟨{\mathbf{b}}_{n-1},{\mathbf{a}}_{\mathbf{n}}⟩-k_{n-1}⟨{\mathbf{b}}_{n-1},{\mathbf{b}}_{n-1}⟩=0 \\ ⟨{\mathbf{b}}_{n-2},{\mathbf{a}}_{\mathbf{n}}⟩-k_{n-2}⟨{\mathbf{b}}_{n-2},{\mathbf{b}}_{n-2}⟩=0 \\ ... \\ ⟨{\mathbf{b}}_1,{\mathbf{a}}_{\mathbf{n}}⟩-k_1⟨{\mathbf{b}}_1,{\mathbf{b}}_1⟩=0 \end{gathered}$$在进行规范化，得${\mathbf{\eta }}_s={\mathbf{b}}_s/|{\mathbf{b}}_s|$，便得到了规范正交基$\{{\mathbf{\eta }}_s\}$。

---

三、线性方程组

3.1 齐次线性方程组
  考虑n维列向量组成的矩阵$\mathbf{A}$，以该矩阵为系数的齐次方程组形如$$\mathbf{A}\mathbf{x}=0$$当$r(\mathbf{A})=n$时，$\{{\mathbf{a}}_n\}$线性无关，则方程有唯一零解；若$r(\mathbf{A})=r<n$，则$\{{\mathbf{a}}_n\}$线性相关，方程组存在非零解，且解有$n-r$个自由度。
  若线性无关的向量组$\{{\mathbf{\xi }}_{n-r}\}$是$\mathbf{A}\mathbf{x}=0$的解且$\mathbf{A}\mathbf{x}=0$的所有解都可以由其线性表出，则称$\{{\mathbf{\xi }}_{n-r}\}$是$\mathbf{A}\mathbf{x}=0$的基础解系，$\sum k_i{\mathbf{\xi }}_i$是方程的通解。

3.2 非齐次方程组
  考虑n维列向量组成的矩阵$\mathbf{A}$，以该矩阵为系数的非齐次方程组形如$$\mathbf{A}\mathbf{x}=\mathbf{b}$$其解的判定为
  -$r(\mathbf{A})\ne r((\mathbf{A},\mathbf{b}))$，空间内系数矩阵维度低于偏置矩阵维度，无解；
  -$r(\mathbf{A})=r((\mathbf{A},\mathbf{b}))=n$，空间内无自由度，仅唯一解；
  -$r(\mathbf{A})=r((\mathbf{A},\mathbf{b}))=r<n$，空间内有自由度，有无数解。