线性代数学习笔记4-6：矩阵的零空间、列空间、行空间、左零空间、初等行变换、测验题

与矩阵有关的四个子空间

掌握矩阵的四个子空间，就掌握了线性代数的半壁江山

之前说过，只要掌握①空间的一组基②空间的维数（基向量的个数），就获得了空间的所有信息

对于一个矩阵${\mathbf{A}}_{m\times n}$

• 列空间Column Space，$C(\mathbf{A})$：矩阵列向量张成的空间
  一定是${\mathbf{R}}^m$的子空间（因为其向量坐标有$m$个分量）
• 零空间Null Space，$N(\mathbf{A})$：$\mathbf{A}\mathbf{x}=0$的所有可能解向量集合
  一定是${\mathbf{R}}^n$的子空间
• 行空间Row Space，$C({\mathbf{A}}^T)$：矩阵行向量张成的空间
  一定是${\mathbf{R}}^n$的子空间
• 左零空间Left Null Space，$N({\mathbf{A}}^T)$：${\mathbf{A}}^T\mathbf{x}=0$的所有可能解向量集合
  一定是${\mathbf{R}}^m$的子空间

四个子空间的关系

关于列空间和零空间的前置知识：

• 记矩阵的秩$Rank({\mathbf{A}}_{m\times n})=r$
• 对于方程$\mathbf{A}\mathbf{x}=0$的系数矩阵$\mathbf{A}$，消元得到简化行阶梯型$\mathbf{R}$，其中有$r$个主元列，剩下的自由列都是主元列的线性组合
• 进而有$n-r$个自由变量，任意给定这些自由变量，可以得到$n-r$个线性无关的特解，它们就是基础解系/零空间的一组基

先给出四个子空间的维数和基的结论：

• 列空间$C(\mathbf{A})$：维数$r$（主元/主变量个数）
  基：简化行阶梯型$\mathbf{R}$中的$r$个主元列
• 零空间$N(\mathbf{A})$：维数$n-r$
  基：给定$n-r$个自由变量的不同取值，得到的$n-r$个线性无关的特解
• 行空间$C({\mathbf{A}}^T)$：维数$r$（重要结论：行空间和列空间维数相同，后面给出证明）
  基：①对${\mathbf{A}}^T$求列空间的基（对${\mathbf{A}}^T$再做行变换，麻烦）②简化行阶梯型$\mathbf{R}$中的$r$个非零行
• 左零空间$N({\mathbf{A}}^T)$：维数$m-r$
  基：求行变换$\mathbf{E}$使得$\mathbf{EA}=\mathbf{R}$，则导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基

可见，这里有一种对偶关系：
零空间和行空间是${\mathbf{R}}^n$的子空间，两者维数相加为$n$；
左零空间和列空间是${\mathbf{R}}^m$的子空间，两者维数相加为$m$；

做初等行变换，行空间和零空间不变、列向量的线性相关性不变，但列空间和左零空间很可能改变（例如消元导致矩阵最下方出现全0行，则列空间变小）
问题：消元已经改变了列空间，为什么主元和主元列还能够反映出矩阵A的列空间状态呢？
首先，初等行变换不改变行空间，也就不改变秩（秩是行/ 列向量中最大的线性无关向量组的向量数）；
为什么列空间的维数也是r，并且主元列可以构成列空间的一组基呢？初等行变换不会改变列向量的线性相关性
详见：MIT—线性代数笔记10 四个基本子空间
并且，行空间和零空间正交（交集只有0向量），可以简单想象，一个非零向量$\left[\begin{array}{ccc}1& 2& 3\end{array}\right]$不可能同时出现住行空间和零空间中，因为对于$\mathbf{A}\mathbf{x}=0$，如果$\mathbf{A}$的某行为$\left[\begin{array}{ccc}1& 2& 3\end{array}\right]$，而$\mathbf{x}{\left[\begin{array}{ccc}1& 2& 3\end{array}\right]}^T$，矩阵向量相乘肯定无法得到0

列空间和零空间的基的推导，在前置知识中已经给出

下面给出行空间和左零空间的推导

行空间的基

求解行空间的基：①对${\mathbf{A}}^T$求列空间的基（对${\mathbf{A}}^T$再做行变换，麻烦）②简化行阶梯型$\mathbf{R}$中的$r$个非零行

更简单的方法是第②个，原理是：
$\mathbf{A}$消元到$\mathbf{R}$，一般过程是
$$\mathbf{A}=\left[\begin{array}{llll}1& 2& 3& 1\\ 1& 1& 2& 1\\ 1& 2& 3& 1\end{array}\right]\to \dots \to \left[\begin{array}{llll}1& 0& 1& 1\\ 0& 1& 1& 0\\ 0& 0& 0& 0\end{array}\right]=\left[\begin{array}{cc}I& F\\ 0& 0\end{array}\right]=\mathbf{R}$$

使用初等行变换：

• 不会改变矩阵列向量的线性相关性
  如果将“秩”理解为行（列）向量中最大的线性无关向量组的向量个数，那么得到初等行变换不会改变矩阵的秩
• 可能会改变矩阵的列空间，即$C(\mathbf{A})\ne C(\mathbf{R})$：出现全0行，则$\mathbf{R}$列向量的线性组合，一定不能使对应的分量变为非0
• 不会改变矩阵的行空间，因为$\mathbf{A}$的行向量，就是$\mathbf{R}$的行向量的线性组合（初等行变换）

因此，简化行阶梯型$\mathbf{R}$的$r$个非零行的行向量，是$\mathbf{A}$的行空间 最佳的/最简化的 基（简化行阶梯型$\mathbf{R}$通过最简的形式表现出了行空间，就好比单位矩阵是$R^n$空间最佳的基）；
并且由于$\mathbf{R}$有$r$个非零行，这也就是$\mathbf{A}$的行空间的维数

注意，$\mathbf{R}$的$r$个非零行行向量是$\mathbf{A}$的行空间的一组基；
但$\mathbf{A}$对应位置的行向量，则不一定是行空间的一组基；

左零空间的基

求解左零空间的基：求行变换$\mathbf{E}$使得$\mathbf{EA}=\mathbf{R}$，则导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基

原理：

• 前置知识：之前说过，矩阵A左乘B，相当于对B做行变换，而B右乘A，相当于对A做列变换；
  矩阵乘积的某行，来自于A中的某行“指挥”B的行向量做线性组合的结果，矩阵乘积的某列，来自于B中的某列“指挥”A的列向量做线性组合的结果
• 我们求解零空间的基，就是（通过给定自由变量）找出一组列向量（特解），使得$\mathbf{A}$的某几列的线性组合为$0$向量

求零空间的基，就是求$\mathbf{A}\mathbf{x}=0$的基础解系（一组无关列向量特解）
求左零空间，就是求${\mathbf{A}}^T\mathbf{x}=0$的基础解系（一组无关列向量特解），或者求${\mathbf{x}}^T\mathbf{A}=0^T$的一组无关行向量特解，这就是“左零空间”的名称由来

问题变为求${\mathbf{x}}^T\mathbf{A}=0^T$的一组无关行向量特解，就是要寻找一个行向量${\mathbf{x}}^T$使得$\mathbf{A}$的行向量的线性组合为$0^T$
这里再次联系到消元后的简化行阶梯型的内容，考虑到：
$$\mathbf{R}=\left[\begin{array}{cc}I& F\\ 0& 0\end{array}\right]$$
$\mathbf{R}$中出现了全0行！这说明，行向量${\mathbf{x}}^T$就蕴含在$\mathbf{A}$到$\mathbf{R}$的消元（行变换）过程中

因此，我们把消元过程表示为$\left[\begin{array}{cc}\mathbf{A}& \mathbf{I}\end{array}\right]\to \left[\begin{array}{cc}\mathbf{R}& \mathbf{E}\end{array}\right]$，其中消元的过程就是$\mathbf{EA}=\mathbf{R}$，消元变换的矩阵为$\mathbf{E}$
而$\mathbf{R}$中的全0行，正是$\mathbf{E}$的某个行向量“指挥”$\mathbf{A}$做行变换得到的

故：导致$\mathbf{R}$中出现全0行的那些$\mathbf{E}$的行向量，就是左零空间的基，并且由于$\mathbf{R}$有$r$个非零行，故有$m-r$个全0行，这也就是左零空间的维数

小结：行空间和左零空间的求解

求解$\mathbf{A}$的行空间和左零空间的求解时

• 我们可以转而求解${\mathbf{A}}^T$的列空间和零空间，然而这需要我们重复两次消元求化简行阶梯型的过程
• $\mathbf{A}$消元（行变换）得到化简行阶梯型$\mathbf{R}$的过程中同样给出了答案：
  $\mathbf{R}$给出了行空间：$\mathbf{R}$的非零行的行向量 就是$\mathbf{A}$的行空间的基
  $\mathbf{A}$到$\mathbf{R}$的过程给出了左零空间：$\mathbf{R}$的全0行相对应的$\mathbf{E}$中的行向量 就是$\mathbf{A}$的左零空间的基，其中$\mathbf{E}$为消元（行变换）的矩阵

测验题

${\mathbf{R}}^4$空间中的4 x 1的列向量$\mathbf{v}$，其4个分量为$v_1,v_2,v_3,v_4$
所有满足$v_1+v_2+v_3+v_4=0$的向量$\mathbf{v}$构成了一个向量空间$\mathbf{V}$，求其维数

思路1：4个分量满足“线性相关”，因此只需要3个基向量，就可以张成整个向量空间$\mathbf{V}$，故$\mathbf{V}$的维数为3

思路2：$v_1+v_2+v_3+v_4=0$写为方程$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]\mathbf{v}=0$，其中系数矩阵$\mathbf{A}$为$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$
问题转化为：求系数矩阵$\mathbf{A}$的零空间维数
消元后，$\mathbf{A}$本身就是行简化阶梯型，有一个主元，$Rank(\mathbf{A})=1$，有三个自由变量，因此零空间的维数为$n-r=4-1=3$，零空间的基向量就是给定三组自由变量的值，得到的三个特解

扩展：进一步考察${\mathbf{A}}_{1\times 4}=\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$的四个子空间（$Rank(\mathbf{A})=1$）

• 列空间：是${\mathbf{R}}^1$的子空间（就是${\mathbf{R}}^1$），基：主元列$\left[\begin{array}{c}1\end{array}\right]$，维数为r=1
• 零空间：是${\mathbf{R}}^4$的子空间，基：给定三个自由变量得到的三个无关特解，维数为n-r=3
• 行空间：是${\mathbf{R}}^4$的子空间，基：最简阶梯型（就是$\mathbf{A}$）中的非零行$\left[\begin{array}{cccc}1& 1& 1& 1\end{array}\right]$，维数为r=1
• 左零空间：是${\mathbf{R}}^1$的子空间（就是一个点0），基：最简阶梯型中全0行对应的$\mathbf{E}$的行（不存在基/基为空集)，维数m-r=0

已知方程$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}2\\ 4\\ 2\end{array}\right]$的通解为$\mathbf{x}=\left[\begin{array}{c}2\\ 0\\ 0\end{array}\right]+c_1\left[\begin{array}{c}1\\ 1\\ 0\end{array}\right]+c_2\left[\begin{array}{c}0\\ 0\\ 1\end{array}\right]$，求（1）$\mathbf{A}$的行空间维数（2）$\mathbf{A}$的值

（1）$\mathbf{A}$的行空间维数=列空间维数=秩
从方程可看出$\mathbf{A}$为3 x 3矩阵，而通解中有2个自由变量，则说明零空间维数为n-r=2，由此得到秩r=1
（2）带入特解$\mathbf{A}\left[\begin{array}{c}2\\ 0\\ 0\end{array}\right]=\left[\begin{array}{c}2\\ 4\\ 2\end{array}\right]$，得到$\mathbf{A}=\left[\begin{array}{ccc}1& \cdots & \cdots \\ 2& \cdots & \cdots \\ 1& \cdots & \cdots \end{array}\right]$

根据题目中给出的零空间的基础解系，得到$\mathbf{A}\left[\begin{array}{c}1\\ 1\\ 0\end{array}\right]=0$和$\mathbf{A}\left[\begin{array}{c}0\\ 0\\ 1\end{array}\right]=0$，得到$\mathbf{A}=\left[\begin{array}{ccc}1& -1& 0\\ 2& -2& 0\\ 1& -1& 0\end{array}\right]$

$\mathbf{A}=\mathbf{BC}=\left[\begin{array}{ccc}1& 1& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]\left[\begin{array}{cccc}1& 0& -1& 2\\ 0& 1& 1& -1\\ 0& 0& 0& 0\end{array}\right]$（1）不做矩阵乘法，求$\mathbf{A}$的零空间（2）求$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$的通解

（1）首先，矩阵$\mathbf{B}$左乘$\mathbf{C}$，仅对应初等行变换，不改变$\mathbf{C}$的零空间，或者说$\mathbf{B}$是可逆矩阵，可以在$\mathbf{A}\mathbf{x}=0$两边同乘以${\mathbf{B}}^{-1}$
这样，求$\mathbf{A}\mathbf{x}=0$的问题，变为求$\mathbf{C}\mathbf{x}=0$，$\mathbf{A}$的零空间就是$\mathbf{C}$的零空间

而$\mathbf{C}$已经是简化行阶梯型，为两个自由变量指定取值，可以得到其零空间的基向量：$\left[\begin{array}{c}1\\ -1\\ 1\\ 0\end{array}\right]$和$\left[\begin{array}{c}-2\\ 1\\ 0\\ 1\end{array}\right]$

（2）已经求出零空间的基础解系，只要再求一个$\mathbf{A}\mathbf{x}=\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$的特解即可
计算可得，$\mathbf{A}$的第一列恰好是$\left[\begin{array}{c}1\\ 0\\ 1\end{array}\right]$，因此一个特解是$\left[\begin{array}{c}1\\ 0\\ 0\\ 0\end{array}\right]$（$\mathbf{A}\mathbf{x}=\mathbf{b}$就是$\mathbf{x}$对$\mathbf{A}$的列向量做线性组合），再加上零空间的基向量线性组合就是通解