线性代数及其应用 - 重学笔记之（一）

内容总揽

（1）线性方程组基本概念：线性方程、系数、线性方程组、解、解集、等价的、相容的、不相容的，线性方程组解的情况

（2）矩阵基本概念：矩阵、系数矩阵、增广矩阵、矩阵尺寸、初等行变换、行等价的，行等价的事实
行化简与阶梯形矩阵：阶梯形（或行阶梯形）、简化阶梯形、简化阶梯形矩阵的唯一性（定理1）、主元位置、行简化算法、基本变量、自由变量、通解、解集的参数表示、线性方程组解的存在与唯一性定理（定理2）、应用行化简算法解线性方程组

（3）向量方程组基本概念：列向量（向量）、向量相等、向量加法的平行四边形法则、零向量、N维向量的代数性质、线性组合、向量方程与线性方程组的关系、向量组生成（张成）子集、向量是否属于生成子集、Span{v} 和 Span{u, v} 的几何解释

（4）矩阵方程 Ax=b：基本思想、矩阵列与列向量的关系、解的存在性事实、逻辑等价命题、计算 Ax 的行-向量规则、单位矩阵、矩阵与向量乘法规则（定理5）

（5）线性方程组的解集：齐次的、平凡解、非平凡解、非平凡解事实（基于定理2）、通解向量、解向量、参数向量方程、参数向量形形式、特解与解集关系（定理6）、把（相容方程组的）解集表示为参数向量形式

（6）线性无关：线性无关与线性相关、线性无关与平凡解的关系（事实）、单个向量和0向量的线性无关性质（事实）、观察法确定线性无关、线性相关集的特征（定理7）、向量个数维数与线性无关的关系（定理8）、向量组包含零向量则线性相关（定理9）

（7）线性变换基础：线性变换函数、变换函数映射、定义域、上域、像、值域、线性变换、线性变换性质与叠加原理
（8）线性变换的矩阵：引入、线性变换与矩阵的关系（定理10）、满射、单射、单射与矩阵解的关系（定理11）、线性变换与标准矩阵的关系（定理12）
（9）线性模型应用：线性规划、基尔霍夫电压定律、线性差分方程（递归关系）

---

1、线性方程组基本概念

⊙ 线性方程：略
⊙ 系数：略
⊙ 线性方程组：略
⊙ 解：略
⊙ 解集：方程所有可能的解的集合
⊙ 等价的：两个线性方程具有组有相同的解集
⊙ 相容的：一个线性方程组有一个解或无穷多个解
⊙ 不相容的：一个线性方程组无解
⊙ 线性方程组解的情况：无解、有唯一解、有无穷多解

---

2、矩阵基本概念

2.1、矩阵

⊙ 矩阵：略
⊙ 系数矩阵：仅包含线性方程组系数的矩阵
⊙ 增广矩阵：包含线性方程组系数以及最右边常数列的矩阵
⊙ 矩阵尺寸：mxn 表示 m 行 n 列
〓 初等行变换：包含以下三个基本变换
  （1）（倍加）把某一行换成它本身与另一行的倍数的和
  （2）（对换）把两行对换
  （3）（倍乘）把某一行的所有元素乘以同一个非零数
⊙ 行等价的：一个矩阵可以 经过一系列地初等行变换成为另一个矩阵
⊕ 行等价的事实：两个线性方程组的增广矩阵是行等价的，则它们有相同的解集

2.2、行化简与阶梯形矩阵

⊙ 阶梯形（或行阶梯形）（缩写：REF）
  一个矩阵称为阶梯形（或行阶梯形），若它有以下三个性质：
  （1）每一非零行都在每一零行之上
  （2）每一行的先导元素所在的列，位于前一行先导元素的右边
  （3）某一先导元素所在的列的下方元素都是零

⊙ 简化阶梯形（或行简化阶梯形）（缩写：RREF）
  若一个阶梯形矩阵还满足以下性质，则称它为简化阶梯形（或行简化阶梯形）：
  （4）每一非零行的先导元素是1
  （5）每一先导元素1是该元素所在列的唯一非零元素

※ 简化阶梯形矩阵的唯一性（※定理1※）：每个矩阵行等价于唯一的简化阶梯形矩阵
主元位置：对应于矩阵的简化阶梯形中先导元素1的位置
主元列：是矩阵中含有主元位置的列

〓 行简化算法
  包含5个步骤（前4步产生一个阶梯形矩阵，称为“向前步骤”，第5步产生简化阶梯形矩阵，称为“向后步骤”），如下：
  （1）由最左边的非零列开始，这是一个主元列，主元位置在该列顶端
  （2）在主元列中选取一个非零元素作为主元，若有必要的话，对换两行使这个元素移动到主元位置
  （3）用倍加行变换将主元下面的似有元素都变成0
  （4）暂时不管包含主元位置的行以及它上面的各行，对剩下的子矩阵使用上述的三个步骤，直到没有非零行需要处理为止
  （5）由最右边的主元开始，把每个主元上方的各元素变成0，若某个主元不是1，则用倍乘变换将它变成1

⊙ 基本变量：主元位置为1的变量
⊙ 自由变量：主元位置为0的变量
⊙ 通解：方程组包含自由变量的全体解的表达形式
⊙ 解集的参数表示：包含参数（如自由变量）的解集表示

※ 线性方程组解的存在与唯一性定理（※定理2※）
  线性方程组相容的充要条件是，增广矩阵的最右列不是主元列。也就是说，增广矩阵的阶梯形没有形如
     [ 0 … 0 b]，b≠0
  的行。
  若线性方程组相容，则它的解集可能有两种情况：
  （i）当没有自由变量时，有唯一解；（ii）若至少有一个自由变量，则有无穷多解。

〓 应用行化简算法解线性方程组
  步骤如下：
  （1）写出方程组的增广矩阵
  （2）应用行化简算法把增广矩阵化为阶梯形，确定议程组是否相容，若没有解则停止，否则进入正是一步
  （3）继续行化简算法得到前一步的简化阶梯形
  （4）写出由第3步所得矩阵对应的方程组
  （5）把第4步所得的每个非零方程改写为用任意自由变量表示其基本变量的形式

---

3、向量方程组基本概念

⊙ 列向量（向量）：略
⊙ 向量相等：当且仅当两个向量维度相同，且所有相同位置上的元素全都相等
⊙ 向量加法的平行四边形法则：二维实数空间向量 u 和 v 相加结果对应于以 u, 0, v 为三个顶点的平行四边形的第4个顶点。
⊙ 零向量：所有元素都是零的向量

⊙ N维向量的代数性质
  对于N维实数空间中的所有向量 u，v，w 以及标量 c 和 d 有以下性质：
  （i）u + v = v + u （可交换）
  （ii）(u + v) + w = u + (v + w) （可结合）
  （iii）u + 0 = 0 + u = u
  （iv）u + (-u) = -u + u = 0, 其中 -u 表示 (-1)u
  （v）c(u + v) = c u + c v
  （vi）(c + d)u = c u + d u
  （vii）c(d u) = (cd)u
  （viii）1 u = u

⊙ 线性组合
⊙ N维实数空间：R${}^n$
  给定 R${}^n$ 中向量 v${}_1$， v${}_2$， …， v${}_p$ 和标量 c${}_1$， c${}_2$， …， c${}_p$，向量
    y = c${}_1$v${}_1$ + c${}_2$v${}_2$ + … + c${}_p$v${}_p$
  称为向量 v${}_1$， v${}_2$， …， v${}_p$ 以 c${}_1$， c${}_2$， …， c${}_p$ 为权的线性组合。

※ 向量方程与线性方程组的关系
  向量方程 x${}_1$a${}_1$ + x${}_2$a${}_2$ + … + x${}_n$a${}_n$ = b 和增广矩阵为 [ a${}_1$ a${}_2$ … a${}_n$ b ] 的线性方程组有相同的解集。
  特别地，b 可以表示为 a${}_1$， a${}_2$， …， a${}_n$ 的线性组合，当且仅当对应于上式的线性方程组有解。

⊙ 向量组生成（张成）子集
  若 v${}_1$， v${}_2$， …， v${}_p$ 是R${}^n$中的向量，则 v${}_1$， v${}_2$， …， v${}_p$ 的所有线性组合所形成的集合称为由v${}_1$， v${}_2$， …， v${}_p$生成（或张成）的N维实数空间的子集，记为：Span{ v${}_1$， v${}_2$， …， v${}_p$ } 。
  也就是说，Span{ v${}_1$， v${}_2$， …， v${}_p$ } 是所有形如
    c${}_1$v${}_1$ + c${}_2$v${}_2$ + … + c${}_p$v${}_p$
  的向量的集合，其中 c${}_1$， c${}_2$， …， c${}_p$ 为标量。

※ 向量是否属于生成子集
  要判断向量 b 是否属于Span{ v${}_1$， v${}_2$， …， v${}_p$ }，就是判断向量方程
    x${}_1$v${}_1$ + x${}_2$v${}_2$ + … + x${}_p$v${}_p$ = b
  是否有解，或等价地，判断增广矩阵为 [v${}_1$ v${}_2$ … v${}_p$ b] 的线性方程组是否有解。

⊙ Span{ v } 和 Span{ u, v } 的几何解释
  假设 u, v 均为3维实数空间中的向量，则
  Span{ v } 表示通过 v 和 0 的直线上的所有点的集合
  Span{ u, v } 表示由 v ，u 和 0 构成的平面上的所有的点的集合

---

4、矩阵方程Ax=b

⊙ 基本思想：把向量的线性组合看作矩阵与向量的积
⊙ 矩阵列与列向量的关系（定义）
  若 A 是 mxn 矩阵，它的各列为 a${}_1$， a${}_2$， …， a${}_n$ 。若 x 是 R${}^n$ 中的向量，则 A 与 x 的积（记为 Ax）就是 A 的各列以 x 中对应元素为权的线性组合，即
    Ax = [ a${}_1$ a${}_2$ … a${}_n$ ] [ x 1 x 2 . . . x n ] \begin{bmatrix} x_1\\ x_2 \\ ... \\ x_n\end{bmatrix} ​x1​x2​...xn​​ ​ = x${}_1$a${}_1$ + x${}_2$a${}_2$ + … + x${}_n$a${}_n$
  注意：Ax 仅当 A 的列数等于 x 中的元素个数时才有定义。

※ 解矩阵方程与向量方程等价（※定理3※）
  若 A 是 mxn 矩阵，它的各列为 a${}_1$， a${}_2$， …， a${}_n$，而 b 属于 R${}^n$，则矩阵方程
    Ax=b
  与向量方程
    x${}_1$a${}_1$ + x${}_2$a${}_2$ + … + x${}_n$a${}_n$ = b
  有相同的解集，它双与增广矩阵为
    [ a${}_1$ a${}_2$ … a${}_n$ b ]
  的线性方程组有相同的解集。

※ 解的存在性事实：矩阵方程 Ax=b 有解，当且仅当 b 是 A 的各列的线性组合

R${}^m$ 中向量集 { v${}_1$， v${}_2$， …， v${}_p$ } 生成 R${}^m$
  是指 R${}^m$ 中的每个向量都是 v${}_1$， v${}_2$， …， v${}_p$ 线性组合，即 Span{ v${}_1$， v${}_2$， …， v${}_p$ } = R${}^m$ 。
  例如：矩阵 A 的列生成R${}^m$ 是指 R${}^m$ 中的每个向量（如b）都是 A 的列的线性组合

※ 逻辑等价命题（※定理4※）
   设 A 是 mxn 矩阵，则下面命题是逻辑上等价的，也就是说，对某个 A，它们都是成立或者都不成立。
  （a）对 R${}^m$ 中每个 b，方程 Ax=b 有解
  （b）R${}^m$ 中的每个 b 都是 A 的列的一个线性组合
  （c）A 的各列生成R${}^m$
  （d）A 在每一行都有一个主元位置
  注意：此定理讨论的是系数矩阵而不是增广矩阵

〓 计算 Ax 的行-向量规则：若 Ax 有定义，则 Ax 中的第 i 个元素是 A 的第 i 个元素与 x 的相应元素乘积之和

⊙ 单位矩阵：略

※ 矩阵与向量乘法规则（※定理5※）
   若 A 是 mxn 矩阵，u 和 v 是中的向量，c 是标题，则有
  （a）A(u + v) = Au + Av
  （b）A( c u) = c (Au)

---

5、线性方程组的解集

⊙ 齐次的：若线性方程组可写成 Ax=0 的形式，其中 A 是 mxn 矩阵，而 0 是 R${}^m$ 中的零向量
※ 齐次线性方程组解的性质（事实）：齐次线性方程组至少有一个解，即 x=0 （ R${}^m$ 中的零向量）
⊙ 平凡解：齐次线性方程组的 x=0 （ R${}^m$ 中的零向量）的解称为它的平凡解
⊙ 非平凡解： 即 Ax=0 的非零向量 x
※ 非平凡解事实（基于定理2）：齐次线性方程组 Ax=0 有非平凡解，当且仅当方程至少有一个自由变量
⊙ 通解向量：通解表达式中不包含自由变量的向量
⊙ 解向量：齐次方程组 Ax=0 总可以表示为 Span{ v${}_1$， v${}_2$， …， v${}_p$ } ，其中 v${}_1$， v${}_2$， …， v${}_p$ 是适当的解向量
⊙ 隐式描述与显式描述：某例中包含 x${}_1$， x${}_2$ 和 x${}_3$ 的方程是平面的隐式描述，解此方程就是找到平面的显式描述，将实验室作为解向量 u 和 v 所生成的子集
⊙ 参数向量方程：形如 x = s u + t v 的方程，其中 s, t 为可取任何实数的变量，u，v 为向量

⊙ 参数向量形式
  当解集用参数与向量显式表示时，称这为参数向量形式
  当非齐次线性方程组有许多解时，通解一般可表示为参数向量形式，即由一个向量加上满足对应齐次方程的一些向量的任意线性组合的形式

※ 特解与解集关系（※定理6※）
  假设方程组 Ax=b 对某个 b 是相容的，p 为一个特解，则 Ax=b 的解集是所有形如 w = p + v${}_h$ 的向量的集，其中 v${}_h$ 是齐次方程组 Ax=b 的任意一个解
  此定理说明：若 Ax=b 有解，则解集可由 Ax=0 的解集平移向量 p 得到，p 是Ax=b 的任意一个特解

〓 把（相容方程组的）解集表示为参数向量形式
  （1）把增广矩阵行化简为简化阶梯形
  （2）把每个基本变量用自由变量表示
  （3）把一般解 x 表示成向量，如果有自由变量，其元素依赖于自由变量
  （4）把 x 分解为向量（元素为常数）的线性组合，用自由变量作为参数

---

6、线性无关

⊙ 线性无关与线性相关
  R${}^n$ 中一组向量 { v${}_1$， v${}_2$， …， v${}_p$ } 称为线性无关，若向量方程
    x${}_1$v${}_1$ + x${}_2$v${}_2$ + … + x${}_p$v${}_p$ = 0
  仅有平凡解。
  向量组（集） { v${}_1$， v${}_2$， …， v${}_p$ } 称为线性相关，若存在不全为0的权 c${}_1$， c${}_2$， …， c${}_p$ ，使
    x${}_1$v${}_1$ + x${}_2$v${}_2$ + … + x${}_p$v${}_p$ = 0
  则称上式为向量 { v${}_1$， v${}_2$， …， v${}_p$ } 之间的线性相关关系。
  ※ 一组向量线性相关，当且仅当它不中线性无关的，反之亦然。

※ 线性无关与平凡解的关系（事实）
  矩阵 A 的各列线性无关，当且仅当方程 Ax=0 仅有平凡解

※ 单个向量和0向量的线性无关性质（事实）
  仅包含一个向量的集合线性无关，当且仅当不是零向量。
  零向量是线性相关的（包含许多非平凡解）。

〓 观察法确定线性无关
  两个向量是否线性相关可用观察法确定，无需进行行变换，具体为：
  两个向量线性相关，当且仅当其中一个向量是另一个向量的倍数。这个集合线性无关，当且仅当其中任一个向量都不是另一个向量的倍数。

※ 线性相关集的特征（※定理7※）
  两个或更多个向量的集合 S = { v${}_1$， v${}_2$， …， v${}_p$ } 线性相关，当且仅当 S 中至少有一个向量是其它向量的线性组合。事实上，若 S 线性相关，且 v${}_1$≠ 0，则某个v${}_j$（j>1）是它前面向量 v${}_1$， …， v${}_j$${}_{-}$${}_1$ 的线性组合。
  警告：此定理没有说在线性相关集中每一个向量都是它前面的向量的线性组合。

※ ◆◆◆向量个数维数与线性无关的关系◆◆◆（※定理8※）
  若一个向量组的向量个数超过每个向量的元素个数（向量维数），那么此向量线性相关，即R${}^n$ 中任一向量组 { v${}_1$， v${}_2$， …， v${}_p$ } ，当 p > n 时线性相关。

※ 向量组包含零向量则线性相关（※定理9※）
  若R${}^n$ 中向量组S = { v${}_1$， v${}_2$， …， v${}_p$ } 包含零向量，则它线性相关。

---

7、线性变换基础

⊙ 线性变换函数：由 x 到 Ax 的对应是由一个向量集到另一个向量集的函数
⊙ 变换、函数、映射、定义域、上域、像、值域
  由 R${}^n$ 到 R${}^m$ 的一个变换（或称函数、映射）T 是一个规则，它把 R${}^n$ 中每个向量 x 对应于 R${}^m$ 中的一个向量 T(x)。
  集 R${}^n$ 称为 T 的定义域，而 R${}^m$ 称为 T 的上域（或取值空间），符号 T: R${}^n$ → R${}^m$ 说明 T 的定义域是 R${}^n$ 而上域是 R${}^m$。
  对于 R${}^n$ 中的向量 x，R${}^m$中的向量 T(x) 称为 x（在 T 作用下）的像。
  所有像 T(x) 的集合称为 T 的值域，对于 T: x→Ax，其中 x 为 n 维，A 为 mxn 矩阵，T 的值域为 A 的所有列的线性组合的集合。

⊙ 线性变换
  变换（或映射） T 称为线性的，若
  （i）对 T 的定义域中的一切 u，v，有 T(u+v) = T(u) + T(v) 。
  （ii）对 T 的定义域中的一切 u 和 c，有 T( c u) = c T(u) 。
  说明：每个矩阵变换都是线性变换，线性变换保持向量的加法运算和标题的乘法运算。

⊙ 线性变换性质与叠加原理
  （iii）若 T 是线性变换，则有： T(0) = 0
  （iv）且对 T 的定义域中一切向量 u 和 v 以及数 c 和 d 有：T( c u + d v) = c T(u) + d T(v)
  （v）重复应用性质（iv）可得到有用的推广（叠加原理）：T( c${}_1$v${}_1$ + … + c${}_p$v${}_p$) = c${}_1$T(v${}_1$) + … + c${}_p$T(v${}_p$)

---

8、线性变换的矩阵

⊙ 引入
  从 R${}^n$ 到 R${}^m$ 的每一个线性变换实际上都是一个矩阵变换 T: x → Ax ，而且变换 T 的重要性质都归结为 A 的性质，寻找矩阵 A 的关键是了解 T 对 nxn 单位矩阵 I${}_n$ 的各列的作用。

※ 线性变换与矩阵的关系（※定理10※）
  设 T : R${}^n$ → R${}^m$ 为线性变换，则存在唯一矩阵 A，使得对 R${}^n$ 中的一切 x，有
    T(x) = A(x)
  事实上 A 是 mxn 矩阵，它的第 j 列是向量 T(e${}_j$)，其中 e${}_j$ 是 R${}^n$ 中单位矩阵 I${}_n$ 的第 j 列：
    A = [ T(e${}_1$) … T(e${}_n$) ]
  说明：从 R${}^n$ 到 R${}^m$ 的每一个线性变换都可以看作是矩阵变换，反之亦然。术语线性变换强调的是映射性质，而矩阵变换描述这样的映射如何实现。

⊙ 满射：映射 T : R${}^n$ → R${}^m$ 称为到 R${}^m$ 上的映射，若 R${}^m$ 中每个 b 是 R${}^n$ 中至少一个 x 的像。
⊙ 单射：映射 T : R${}^n$ → R${}^m$ 称为一对一映射，若 R${}^m$ 中每个 b 是 R${}^n$ 中至多一个 x 的像。

※ 单射与矩阵解的关系（※定理11※）
  设 T : R${}^n$ → R${}^m$ 为线性变换，则 T 是一对一的当且仅当方程 Ax = b 仅有平凡解。

※ 线性变换与标准矩阵的关系（※定理12※）
  设 T : R${}^n$ → R${}^m$ 为线性变换，设 A 为 T 的标准矩阵，则
  a. T 把 R${}^n$ 映上到 R${}^m$，当且仅当 A 的列生成 R${}^m$。
  b. T 是一对一的，当且仅当 A 的列线性无关。

---

9、线性模型应用

⊙ 线性规划：略
⊙ 基尔霍夫电压定律：围绕一条回路同一方向的电压降 RI 的代数和等于围绕该回路的同一方向电动势的代数和。

⊙ 线性差分方程（递归关系）
  如果有矩阵 A 使 x${}_1$ = Ax${}_0$, 一般地
    x${}_k$${}_{+}$${}_1$ = Ax${}_k$ , k=0,1,2,…
  则称其为线性差分方程，或递归关系。

---