矩阵论（零）：线性代数基础知识整理（1）——逆矩阵、（广义）初等变换、满秩分解

矩阵论专栏：专栏（文章按照顺序排序）

线性代数是矩阵论的先修课程，本篇博客整理线性代数的基础理论知识，为矩阵论的学习做准备。限于篇幅，梳理的重点将在定理和结论上（只给出部分必要的定义），对最基础的概念（如矩阵及其基本运算等等）不清楚的童鞋可以参考矩阵的基本运算。
本文的讨论在一般的数域$F$中进行，$F$可以是有理数域、实数域、复数域等。这里不给出数域的严格定义，只要知道数域是复数域的一个对加减乘除运算封闭的子集，且有理数域是最小的数域即可。需要特别指出的是，我们所关心的数域都是复数域的子集，并不是什么抽象的代数数域。由于数域都是复数域的子集，在复数中定义的基本运算以及相应的运算律往往也适用于实数、有理数，例如取共轭，实数和有理数的共轭是其自身。数域的相关理论可参考数域和维基。

---

本篇博客先介绍线性代数中一些基本的概念，然后重点围绕“秩”这一重要概念整理相关结论：

• 复数的运算法则、复矩阵的共轭与共轭转置
• 行列式的性质
• 方阵的迹及其性质
• 逆矩阵
  • 伴随矩阵
  • 逆矩阵
  • 关于逆矩阵的一个常用公式（Woodbury-Sherman-Morrison公式）
• 初等变换与矩阵的秩
  • 初等变换、初等矩阵
  • 矩阵的秩及性质
  • 分块矩阵的初等变换（广义初等变换）
    • 矩阵打洞技巧
    • 方阵乘积的行列式公式
    • 分块矩阵的逆
    • 分块矩阵的秩
• 满秩分解
  • 满秩分解的定义
  • 满秩分解的存在性
  • 满秩分解的快速计算方法

---

复数的运算法则、复矩阵的共轭与共轭转置

• 复数的基本运算法则
  复数的基本运算法则与实数的完全一致，且根据复数的定义$z=a+bi$容易验证，现列举如下：（设$a,b,c\in C$）
  • 加法交换律：$a+b=b+a$
  • 加法结合律：$a+(b+c)=(a+b)+c$
  • 乘法交换律：$a\times b=b\times a$
  • 乘法结合律：$a\times (b\times c)=(a\times b)\times c$
  • 乘法对加法的左分配律：$(a+b)\times c=a\times c+b\times c$
  • 乘法对加法的右分配律：$a\times (b+c)=a\times b+a\times c$
• 复数的共轭、复数的模的运算律（设$x,y\in C$）
  • $\overline{x\pm y}=\overline{x}\pm \overline{y}$
  • $\overline{xy}=\bar{x}\bar{y}$
  • $\overline{(\frac{x}{y})}=\frac{\overline{x}}{\overline{y}}$
  • $x\overline{x}=\overline{x}x=|x{|}^2$
  • $|xy|=|x||y|$
• 矩阵的共轭
  矩阵的共轭就是将原矩阵的每个元素取共轭，即若$A=(a_{ij}{)}_{m\times n}$，则$\overline{A}=(\overline{a_{ij}}{)}_{m\times n}$。实矩阵的共轭是其本身。根据复数共轭的运算率，可得矩阵的共轭具有如下性质：
  • $\overline{\overline{A}}=A$
  • $\overline{A+B}=\overline{A}+\overline{B}$
  • $\overline{kA}=\bar{k}\overline{A},k\in C$
  • $\overline{AB}=\bar{A}\bar{B}$
• 矩阵的共轭转置
  矩阵的共轭转置即先取共轭再转置或先转置再取共轭，即$A^H=\overline{(A^T)}=(\overline{A}{)}^T$。实矩阵的转置是复矩阵的共轭转置的特例。矩阵的共轭转置具有如下性质：
  • $(A^H{)}^H=A$
  • $(A^H{)}^T=(A^T{)}^H$
  • $\overline{A^H}=(\overline{A}{)}^H$
  • $(A+B{)}^H=A^H+B^H$
  • $(kA{)}^H=\overline{k}{A}^H,k\in C$
  • $(AB{)}^H=B^H{A}^H$
• Hermite矩阵（共轭对称矩阵）
  若方阵A满足$A^H=A$，则称A是Hermite矩阵。实对称矩阵是一种Hermite矩阵。

---

行列式的性质

设F为一数域，给定正整数$n$，在$F$上可以构造出唯一的映射$F^{n\times n}\to F$满足行列式第一公理和行列式第二公理。行列式的具体表达式可以使用置换或逆序数写出，本文略去，具体可参考博客以及知乎。
设$A,B\in F^{n\times n}$，$k\in F$为常数，根据置换或逆序数的性质可得行列式的如下性质：

• $det(A^T)=det(A)$
• $det(A^H)=\overline{det(A)}$
• $det(kA)=k^{n}det(A)$
• 行列式的某一行（列）乘非零常数$k\in F$，则行列式的值变为原来的$k$倍
• 互换行列式的两行（或两列），则行列式的值取负
• 行列式的某一行（列）加上另一行（列）的常数倍，行列式的值不变
• $det(AB)=det(A)det(B)$
  证：见分块矩阵的初等变换。
• 若A是共轭对称矩阵，则$det(A)\in R$
  证：因为$det(A)=det(A^H)=\overline{det(A)}$，所以$det(A)$的虚部为零，$det(A)\in R$。

设$A\in F^{m\times m},B\in F^{n\times n}$，则：

• 若A是对角矩阵或上（下）三角矩阵，则A的行列式是A的主对角元之积
• 拉普拉斯展开式一：$\left|\begin{array}{cc}A& \ast \\ O& B\end{array}\right|=\left|\begin{array}{cc}A& O\\ \ast & B\end{array}\right|=|A||B|$
• 拉普拉斯展开式二：$\left|\begin{array}{cc}O& A\\ B& \ast \end{array}\right|=\left|\begin{array}{cc}\ast & A\\ B& O\end{array}\right|=(-1{)}^{mn}|A||B|$

---

方阵的迹及其性质

• 定义
  方阵A的迹$tr(A)$定义为$A=(a_{ij}{)}_{n\times n}$的主对角元之和，即$tr(A)={\sum }_{i=1}^n{a}_{ii}$
• 性质
  • 设A、B均为n阶方阵，则$tr(A\pm B)=tr(A)\pm tr(B)$
  • $tr(cA)=ctr(A),c\in F$
  • $tr(A^T)=tr(A),tr(\bar{A})=tr(A^H)=\overline{tr(A)}$
    推论：$tr(A^{T}B)=tr(B^{T}A)={\sum }_{i,j}{A}_{ij}{B}_{ij}$，其中A、B均为$m\times n$矩阵
  • 设A为$m\times n$矩阵，B为$n\times m$矩阵，则$tr(AB)=tr(BA)={\sum }_{i,j}{A}_{ij}{B}_{ji}$
  • 设A、B、C均为$m\times n$矩阵，则$$tr((A\odot B{)}^{T}C)=tr(A^T(B\odot C))=\sum _{i,j}{A}_{ij}{B}_{ij}{C}_{ij}$$式中$\odot$是逐元素乘法（Hadarmard积）
  • 设A、B、C均为$m\times n$矩阵，$B$的所有元素均非零，则$$tr((A\oslash B{)}^{T}C)=tr(A^T(C\oslash B))=\sum _{ij}\frac{A_{ij}{C}_{ij}}{B_{ij}}$$式中$\oslash$是逐元素除法

---

逆矩阵

• 定义
  设$A\in F^{n\times n}$，若存在$B\in F^{n\times n}$使得$$AB=BA=I$$其中$I$是单位矩阵，则称A是可逆的，B是A的逆矩阵，记为$B=A^{-1}$。
• 定理：任意方阵的逆矩阵若存在则唯一
• 伴随矩阵
  • n阶$(n⩾2)$方阵A的伴随矩阵$A^{\ast }$定义为：以$A_{ji}$为(i,j)元素的n阶方阵，其中$A_{ij}$是$A$的(i,j)元素$a_{ij}$的代数余子式
  • 对任意n阶$(n⩾2)$方阵A，根据拉普拉斯展开式，有$A{A}^{\ast }=A^{\ast }A=det(A)I$成立
• 伴随矩阵的性质（设$A,B\in F^{n\times n},n⩾2$）
  • $(kA{)}^{\ast }=k^{n-1}{A}^{\ast },k\in F$
  • $|A^{\ast }|=|A{|}^{n-1}$
  • $(A^{\ast }{)}^{\ast }=|A{|}^{n-2}A$
  • $(A^{\ast }{)}^T=(A^T{)}^{\ast }$
  • $(A^{\ast }{)}^H=(A^H{)}^{\ast }$
  • $(AB{)}^{\ast }=B^{\ast }{A}^{\ast }$
• 方阵可逆的充要条件
  • （行列式判定）n阶方阵$A=(a_{ij}{)}_{n\times n}$可逆的充要条件是$det(A)\ne 0$，A的逆矩阵为$$A^{-1}=\{\begin{array}{ll}\frac{A^{\ast }}{det(A)}& n⩾2\\ (a_{11}^{-1}{)}_{1\times 1}& n=1\end{array}$$
  • n阶方阵$A=(a_{ij}{)}_{n\times n}$可逆的充要条件是存在$B$使得$AB=I$
    证：
    必要性：若$A$可逆，显然取$B=A^{-1}$就有$AB=I$。
    充分性：若存在$B$使得$AB=I$，则由$det(AB)=det(A)det(B)=det(I)=1$知$det(A)\ne 0$（否则的话就有$det(AB)=0$与$det(AB)=1$矛盾），故由行列式判定知$A$可逆。（此时若用$A^{-1}$左乘$AB=I$，就得到$B=A^{-1}$，即这里的$B$只能是$A^{-1}$）
    【注1】该结论可以看做是逆矩阵的定义的弱化。本来逆矩阵要求$AB=I$且$BA=I$，但该结论说明只要$AB=I$就够了（同理可知如果满足$BA=I$也可推出$A$可逆且$B=A^{-1}$）。
    【注2】该结论的一个等价结论是“已知同阶方阵$A,B$，若$AB=I$，则$BA=I$”。
• 逆矩阵的性质
  设$A,B\in F^{n\times n}$：
  • $(A^{-1}{)}^{-1}=A$
  • $(A^T{)}^{-1}=(A^{-1}{)}^T$
  • $(A^H{)}^{-1}=(A^{-1}{)}^H$
  • $(kA{)}^{-1}=\frac{1}{k}{A}^{-1},0\ne k\in F$
  • $(A^n{)}^{-1}=(A^{-1}{)}^n$
  • $(A^{\ast }{)}^{-1}=(A^{-1}{)}^{\ast }=\frac{A}{|A|}$（$n⩾2$）
  • $(AB{)}^{-1}=B^{-1}{A}^{-1}$
• 特殊矩阵的逆矩阵
  • 若对角矩阵$\Sigma =\left[\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right]$可逆，则其逆矩阵为${\Sigma }^{-1}=\left[\begin{array}{ccc}{\lambda }_1^{-1}& & \\ & \ddots & \\ & & {\lambda }_n^{-1}\end{array}\right]$。
  • 若上三角方阵可逆，则其逆矩阵为上三角方阵
  • 若下三角方阵可逆，则其逆矩阵为下三角方阵

关于逆矩阵的一个常用公式

• 定理：设$A\in C^{m\times m},U\in C^{m\times p},B\in C^{p\times q},V\in C^{q\times m}$。若$A$可逆，则$A+UBV$可逆的充要条件为$I_p+BV{A}^{-1}U$可逆，且$(A+UBV{)}^{-1}=A^{-1}-A^{-1}U(I_p+BV{A}^{-1}U{)}^{-1}BV{A}^{-1}$
  证明：（该定理的证明需要用到特征值的相关结论，若这块不熟悉可先跳过，特征值相关可参考矩阵论（零）：线性代数基础知识整理（5）——特征值与相似）
  由$A$可逆以及$A+UBV=A(I_m+A^{-1}UBV)$知，$A+UBV$可逆的充要条件为$I_m+A^{-1}UBV$可逆。令$M=A^{-1}U,N=BV$，由$MN$与$NM$有相同的非零特征值可知，$I_m+MN$可逆$⟺$$-1$不是$MN$的特征值$⟺$$-1$不是$NM$的特征值$⟺$$I_p+NM$可逆。这就证明了$A+UBV$可逆的充要条件为$I_p+BV{A}^{-1}U$可逆。利用逆矩阵的定义容易验证公式$(A+UBV{)}^{-1}=A^{-1}-A^{-1}U(I+BV{A}^{-1}U{)}^{-1}BV{A}^{-1}$的正确性。证毕。

该定理的如下推论较常见：

• 推论1（Woodbury恒等式）：设$A\in C^{m\times m},U\in C^{m\times n},B\in C^{n\times n},V\in C^{n\times m}$。若$A,B$可逆，则$A+UBV$可逆的充要条件为$B^{-1}+V{A}^{-1}U$可逆，且$(A+UBV{)}^{-1}=A^{-1}-A^{-1}U(B^{-1}+V{A}^{-1}U{)}^{-1}V{A}^{-1}$
  证：显然该定理是上面的定理当$B$取可逆方阵时的特殊情形。由于$B$可逆且$I_n+BV{A}^{-1}U=B(B^{-1}+V{A}^{-1}U)$，故$A+UBV$可逆的充要条件为$B^{-1}+V{A}^{-1}U$可逆。$(A+UBV{)}^{-1}=A^{-1}-A^{-1}U(I_p+BV{A}^{-1}U{)}^{-1}(B^{-1}{)}^{-1}V{A}^{-1}=A^{-1}-A^{-1}U(B^{-1}+V{A}^{-1}U{)}^{-1}V{A}^{-1}$。
• 推论2（Sherman-Morrison定理）：设$A\in C^{n\times n}$可逆，$u,v\in C^n,b\in C$，则$A+bu{v}^T$可逆的充要条件为$1+b{v}^T{A}^{-1}u\ne 0$，且$(A+bu{v}^T{)}^{-1}=A^{-1}-\frac{b{A}^{-1}u{v}^T{A}^{-1}}{1+b{v}^T{A}^{-1}u}$
  证：显然该定理是上面的定理当$B$取$1\times 1$矩阵（即标量）时的特殊情形。证明略。
• 推论3：设$A\in C^{n\times n}$可逆，$u,v\in C^n$，则$A+u{v}^T$可逆的充要条件为$1+v^T{A}^{-1}u\ne 0$，且$(A+u{v}^T{)}^{-1}=A^{-1}-\frac{A^{-1}u{v}^T{A}^{-1}}{1+v^T{A}^{-1}u}$
  证明：该定理是推论2当$b$取1时的特殊情形。证明略。

【注】上述诸结论是在复数域下给出的，然而，可以看出既然在复数域下证明了这些结论，那么其他数域下结论也成立。上述推论2和推论3由于结论更弱，有更简便的证法，感兴趣的读者可自行研究。下面提供推论2的一个简单证法作为参考。

• 推论2的简单证法
  证：
  充分性：若$1+b{v}^T{A}^{-1}u\ne 0$，验证$(A+bu{v}^T)(A^{-1}-\frac{b{A}^{-1}u{v}^T{A}^{-1}}{1+b{v}^T{A}^{-1}u})=I$即可。
  必要性：注意由$A+bu{v}^T=(I+bu{v}^T{A}^{-1})A$可推出$I+bu{v}^T{A}^{-1}$可逆。假设$1+b{v}^T{A}^{-1}u=0$，则$(I+bu{v}^T{A}^{-1})u=u+bu{v}^T{A}^{-1}u=u-u=0$。注意$1+b{v}^T{A}^{-1}u=0$确保$u\ne 0$。这说明齐次线性方程组$(I+bu{v}^T{A}^{-1})x=0$有非零解，这与$I+bu{v}^T{A}^{-1}$可逆是矛盾的。因此假设不成立，得证。

---

初等变换与矩阵的秩

行最简形和列最简形

• 矩阵A称为行最简形，若A的所有非零行都在零行的上面，A的每个非零行的首非零元是1，其列号随行号严格单调递增，且其所在列的其他元素均为零。
• 矩阵A称为列最简形，若A的所有非零列都在零列的左面，A的每个非零列的首非零元是1，其行号随列号严格单调递增，且其所在行的其他元素均为零。

初等变换

初等行（列）变换有三种：

• 行（列）互换变换：互换矩阵的第i行（列）和第j行（列），$i\ne j$
• 行（列）倍乘变换：用非零常数$k\in F$乘矩阵的某一行（列）的每个元素
• 行（列）倍加变换：将矩阵的第i行（列）的k倍$(k\in F)$加到第j行（列），$i\ne j$

初等行变换和初等列变换统称为初等变换。

初等矩阵

• 定义：对单位矩阵只作1次初等行（列）变换得到的矩阵称为初等矩阵，初等矩阵也有三种，对应分别为互换初等矩阵、倍乘初等矩阵、倍加初等矩阵
  【注】初等矩阵都是可逆的
• 定理：设$A\in F^{m\times n}$，对A施行1次初等行变换，其结果等同于给A的左边乘上一个相应的m阶初等矩阵（对单位矩阵施行1次相同的初等行变换得到的矩阵）；对A施行1次初等列变换，其结果等同于给A的右边乘上一个相应的n阶初等矩阵（对单位矩阵施行1次相同的初等列变换得到的矩阵）
• 定理：（可逆矩阵与初等矩阵的关系）方阵A是可逆矩阵的充要条件是A可以写成若干初等矩阵的积
• 定理：任意矩阵A可通过有限次初等行变换化为唯一的一个行最简形，称为A的行最简形；也可通过有限次初等列变换化为唯一的一个列最简形，称为A的列最简形；即存在可逆矩阵P、Q使得PA是A的行最简形，AQ是A的列最简形

行等价与列等价

• 定义：若矩阵A可经过若干次初等行（列）变换得到矩阵B，则称A与B行（列）等价
• 定义：若矩阵A可经过若干次初等变换得到矩阵B，则称A与B等价
• 定理：A与B行等价的充要条件为存在可逆矩阵P使得$PA=B$；A与B列等价的充要条件为存在可逆矩阵Q使得$A=BQ$；A与B等价的充要条件为存在可逆矩阵P和Q使得$PAQ=B$
  证：由可逆矩阵的充要条件是其可被写成若干初等矩阵的积即证。

矩阵的秩及其性质

• 定义：矩阵A的最高阶非零子式的阶数称为A的秩，记为r(A)或rank(A)；当A没有非零子式（即$A=O$）时，定义$r(A)=0$
• 定理：$r(A^H)=r(A^T)=r(A)$
• 定义：设$A\in F^{m\times n}$，若$r(A)=n$，则称A是列满秩矩阵；若$r(A)=m$，则称A是行满秩矩阵；若$r(A)=m=n$，则称A是满秩方阵，显然满秩方阵就是可逆矩阵
• 定理：初等行（列）变换不改变矩阵的秩
• 定理：$r(PA)=r(AQ)=r(A)$，其中P、Q是可逆矩阵
  证：可逆矩阵可写成若干初等矩阵的积，故$PA$相当于对$A$做若干次初等行变换，$AQ$相当于对$A$做若干次初等列变换，又因为初等变换不改变矩阵的秩，故结论成立。
• 定义：设$A\in F^{m\times n},r(A)=r$，A的秩标准形（又称等价标准形、相抵标准形）定义为$\left[\begin{array}{cc}{I}_r& O\\ O& O\end{array}\right]$
• 定理：（等价标准形定理/相抵标准形定理/秩标准形定理）任意秩为r的矩阵A可经有限次初等变换化为A的秩标准形；即存在可逆矩阵P、Q使得$PAQ=\left[\begin{array}{cc}{I}_r& O\\ O& O\end{array}\right]$
• 定理：列满秩矩阵可经有限次初等行变换化为它的秩标准形，行满秩矩阵可经有限次初等列变换化为它的秩标准形
• 定理：同型矩阵$A$与$B$等价的充要条件为$r(A)=r(B)=r$
  【注】所谓同型矩阵就是指两个矩阵的大小（或规格）一样，即若$A$是$m\times n$的，则$B$也是$m\times n$的。
  证：
  充分性显然。
  必要性：由秩标准形定理，存在可逆矩阵$P_1,Q_1,P_2,Q_2$使得$P_{1}A{Q}_1=P_{2}B{Q}_2=\left[\begin{array}{cc}{I}_r& O\\ O& O\end{array}\right]$，故$(P_2^{-1}{P}_1)A(Q_1{Q}_2^{-1})=B$，即A与B等价。
• 可逆方阵A求逆的方法：对$\left[\begin{array}{cc}I& A\end{array}\right]$进行初等行变换把A化成单位矩阵，则单位矩阵$I$就被自然地化成了$A^{-1}$。
  分析：设$\left[\begin{array}{cc}I& A\end{array}\right]$经上述变换得到的结果为$\left[\begin{array}{cc}B& I\end{array}\right]$。存在可逆矩阵P使得$P\left[\begin{array}{cc}I& A\end{array}\right]=\left[\begin{array}{cc}B& I\end{array}\right]$，即$P=B$且$PA=I$，故$B=P=A^{-1}$，即原本的单位矩阵$I$自然地化成了$A^{-1}$。
• 定理：$r(BA)=r(AC)=r(A)$，其中B是列满秩矩阵，C是行满秩矩阵
  证：
  由B列满秩，C行满秩知，存在可逆矩阵P，Q使得$PB=\left[\begin{array}{c}I\\ O\end{array}\right],CQ=\left[\begin{array}{cc}I& O\end{array}\right]$，故$r(BA)=r(P^{-1}\left[\begin{array}{c}I\\ O\end{array}\right]A)=r(\left[\begin{array}{c}A\\ O\end{array}\right])=r(A)$，$r(AC)=r(A\left[\begin{array}{cc}I& O\end{array}\right]Q^{-1})=r(\left[\begin{array}{cc}A& O\end{array}\right])=r(A)$。

分块矩阵的初等变换

分块矩阵是研究矩阵必不可少的工具，要想深入学习线性代数和矩阵论，一方面要学好线性空间与线性算子，另一方面要学好分块矩阵。一些较为深入的结论，有时从线性空间角度看更直观，有时从分块矩阵的角度看更直观。分块矩阵的基本运算请参考线性代数（四）-矩阵分块法。
分块矩阵的初等变换，又称广义初等变换，可以用来解决一些较为深入的秩的定理，还在相似、合同理论中有重要的应用。
所谓分块矩阵的初等变换，实际上是对分块矩阵进行多次初等变换，使结果整体上来看相当于变换的是矩阵的子块。下面看一个例子：

• 定理：设$A\in F^{m\times n}$按行分块为$A=\left[\begin{array}{c}B\\ C\end{array}\right]$，其中$B\in F^{m_1\times n},C\in F^{m_2\times n},m_1+m_2=m$，矩阵$D\in F^{m_2\times m_1}$。则可对$A$进行若干次初等行变换（具体地，行倍加变换），使其变为$\left[\begin{array}{c}B\\ C+DB\end{array}\right]$
  证：
  注意到$C+DB$的第i行为$c_i+d_{i}B=c_i+{\sum }_{j=1}^{m_1}{d}_{ij}{b}_j$，其中$c_i,d_i$分别是$C,D$的第i行，$b_j$是$B$的第j行。于是只要依次将$B$的第1行的$d_{i1}$倍、第2行的$d_{i2}$倍、……、第$m_1$行的$d_{i{m}_1}$倍加到$C$的第i行，就将$C$的第i行变成了$C+DB$的第i行。对$i=1,2,...,m_2$依次实施上述的一系列行倍加变换，就将$A$变成了$\left[\begin{array}{c}B\\ C+DB\end{array}\right]$。

上面这个例子中，通过多次的初等行倍加变换，将$A$的子块$C$变成了$C+DB$，即加上了$A$的另一个子块$B$的$D$倍（注意$D$是乘在左边的），而这个“倍数”$D$是没有限制的，这个$D$无论怎么取，都能够找到上述一系列初等行倍加变换以完成子块$C$的整体变换。这种“神奇”的技巧在理论分析时很有用，尤其是当你可以用这个技巧把矩阵的某个子块变成零矩阵时，能大大降低计算的难度。通过初等变换把一个矩阵的某个子块变成零矩阵的技术被称作分块消元法，俗称矩阵打洞术。（听说数学家华罗庚和他的学生就十分擅长这类技巧）

我们已经知道对矩阵实施一次初等行变换与在其左边乘相应的初等矩阵的效果是等同的，如果进行一系列初等行变换，那么就相当于在左边乘一个可逆矩阵，那么上述例子中对应的可逆矩阵是什么呢？

实际上，设对某矩阵$A$进行共$k$次初等行变换，得到矩阵$G$，变换对应的初等矩阵分别为$P_1,P_2,...,P_k$，则$P_k{P}_{k-1}...P_{1}A=G$，即对应在$A$的左边乘了个可逆矩阵$P=P_k{P}_{k-1}...P_1$。而$P_k{P}_{k-1}...P_1=P_k{P}_{k-1}...P_{1}I$，所以可逆矩阵$P$实际上就是对单位矩阵也实施同样的$k$次初等行变换的结果。
据此，上述例子中对应的可逆矩阵就应是$\left[\begin{array}{cc}{E}_{m_1}& O\\ D& E_{m_2}\end{array}\right]$（可以这样想：对$\left[\begin{array}{c}B\\ C\end{array}\right]$实施一系列初等行变换后得到的是$\left[\begin{array}{c}B\\ C+DB\end{array}\right]$，效果就是给$C$加上了$B$的$D$倍，那么对单位矩阵$\left[\begin{array}{cc}{E}_{m_1}& O\\ O& E_{m_2}\end{array}\right]$实施相同的初等行变换后，效果应该是相同的，即给$\left[\begin{array}{cc}O& E_{m_2}\end{array}\right]$加上$\left[\begin{array}{cc}{E}_{m_1}& O\end{array}\right]$的$D$倍，于是得到$\left[\begin{array}{cc}{E}_{m_1}& O\\ D& E_{m_2}\end{array}\right]$）。验证一下，根据行列式的拉普拉斯展开式，$\left[\begin{array}{cc}{E}_{m_1}& O\\ D& E_{m_2}\end{array}\right]$确实是一个可逆矩阵，根据分块矩阵乘法，$\left[\begin{array}{cc}{E}_{m_1}& O\\ D& E_{m_2}\end{array}\right]\left[\begin{array}{c}B\\ C\end{array}\right]=\left[\begin{array}{c}B\\ C+DB\end{array}\right]$确实成立。

前面说过三种初等行（列）变换对应三种初等矩阵，类比一下，对分块矩阵实施三种分块行初等变换就对应于在原矩阵的左边乘三种分块初等矩阵，类似地，对分块矩阵实施三种分块列初等变换就对应于在原矩阵的右边乘三种分块初等矩阵。

三种分块初等矩阵是指（为简单起见，以下只给出了四分块的情形）：
分块倍加阵$\left[\begin{array}{cc}{E}_{m_1}& O\\ C& E_{m_2}\end{array}\right]$或$\left[\begin{array}{cc}{E}_{m_1}& C\\ O& E_{m_2}\end{array}\right]$；
分块倍乘阵$\left[\begin{array}{cc}C& O\\ O& E\end{array}\right]$或$\left[\begin{array}{cc}E& O\\ O& C\end{array}\right]$，其中$C$可逆；
分块互换阵$\left[\begin{array}{ccc}O& E_{m_2}& \\ E_{m_1}& O& \end{array}\right]$。
【注】分块初等矩阵并不是初等矩阵，初等矩阵是单位矩阵进行一次初等变换得到的，而分块初等矩阵需要单位矩阵经过多次初等变换才能得到

分块行初等变换：

• 分块行倍加变换：$\left[\begin{array}{cc}{E}_{m_1}& O\\ C& E_{m_2}\end{array}\right]\left[\begin{array}{c}{A}_{m_1\times n}\\ B_{m_2\times n}\end{array}\right]=\left[\begin{array}{c}A\\ B+CA\end{array}\right]$
  （相当于给$B$加上了$A$的$C$倍，注意“倍数”$C$乘在了$A$的左边）
• 分块行倍乘变换：$\left[\begin{array}{cc}C& O\\ O& E\end{array}\right]\left[\begin{array}{c}A\\ B\end{array}\right]=\left[\begin{array}{c}CA\\ B\end{array}\right]$，其中$C$是可逆的
  （相当于给$A$乘上了$C$倍，注意“倍数”$C$乘在了$A$的左边）
• 分块行互换变换：$\left[\begin{array}{ccc}O& E_{m_2}& \\ E_{m_1}& O& \end{array}\right]\left[\begin{array}{c}{A}_{m_1\times n}\\ B_{m_2\times n}\end{array}\right]=\left[\begin{array}{c}B\\ A\end{array}\right]$
  （相当于把子块$A$和$B$交换了一下）

分块列初等变换：

• 分块列倍加变换：$\left[\begin{array}{cc}{A}_{n\times m_1}& B_{n\times m_2}\end{array}\right]\left[\begin{array}{cc}{E}_{m_1}& O\\ C& E_{m_2}\end{array}\right]=\left[\begin{array}{cc}A+BC& B\end{array}\right]$
  （相当于给$A$加上了$B$的$C$倍，注意“倍数”$C$乘在了$B$的右边）
• 分块列倍乘变换：$\left[\begin{array}{cc}{A}_{n\times m_1}& B_{n\times m_2}\end{array}\right]\left[\begin{array}{cc}C& O\\ O& E_{m_2}\end{array}\right]=\left[\begin{array}{cc}AC& B\end{array}\right]$，其中$C$是可逆的
  （相当于给$A$乘上了$C$倍，注意“倍数”$C$乘在了$A$的右边）
• 分块列互换变换：$\left[\begin{array}{cc}{A}_{n\times m_1}& B_{n\times m_2}\end{array}\right]\left[\begin{array}{ccc}O& E_{m_2}& \\ E_{m_1}& O& \end{array}\right]=\left[\begin{array}{cc}B& A\end{array}\right]$
  （相当于把子块$A$和$B$交换了一下）

正如上面的定理指出的，一次分块倍加变换可通过多次一般的倍加变换完成。一次分块互换变换也可通过多次一般的互换变换完成。但是一次分块倍乘变换不一定可由多次一般的倍乘变换完成，而是在同一个子块内灵活地运用三种初等变换，关于这一点读者可自行研究。因为分块初等变换实际上不过是执行了多次一般的初等变换而已，所以分块初等变换均不改变矩阵的秩。此外，分块倍加变换不改变矩阵的行列式的值。

矩阵打洞技巧

这里列举几个常常碰到的矩阵打洞的情形，具体的用法请参考后文以及后面的博客。（以分块行初等变换为例）

• $\left[\begin{array}{c}B\\ AB\end{array}\right]$：给子块$AB$加上子块$B$的$-A$倍，就能把$AB$消掉。$$\left[\begin{array}{cc}E& O\\ -A& E\end{array}\right]\left[\begin{array}{c}B\\ AB\end{array}\right]=\left[\begin{array}{c}B\\ O\end{array}\right]$$
• $\left[\begin{array}{c}A\\ B\end{array}\right]$：如果$A$可逆，则无论$B$是什么都能消掉$B$。$$\left[\begin{array}{cc}E& O\\ -B{A}^{-1}& E\end{array}\right]\left[\begin{array}{c}A\\ B\end{array}\right]=\left[\begin{array}{c}A\\ O\end{array}\right]$$

暂时这两个，想到不一样的再补充~~

方阵乘积的行列式公式

• 定理：设$A,B\in F^{n\times n}$，则$det(AB)=det(A)det(B)$
  证：
  对分块矩阵做如下初等变换：$$\left[\begin{array}{cc}AB& O\\ O& I_n\end{array}\right]\stackrel{\text{行倍加}}{\to }\left[\begin{array}{cc}AB& A\\ O& I_n\end{array}\right]\stackrel{\text{列倍加}}{\to }\left[\begin{array}{cc}O& A\\ -B& I_n\end{array}\right]$$因为倍加变换不改变行列式的值，所以应用拉普拉斯公式就有$$\begin{gathered} det(AB)=det\left[\begin{array}{cc}AB& O\\ O& I_n\end{array}\right]=det\left[\begin{array}{cc}O& A\\ -B& I_n\end{array}\right] \\ =(-1{)}^{n^2}det(A)det(-B)=det(A)det(B) \end{gathered}$$

分块矩阵的逆

分块初等矩阵的逆：

• ${\left[\begin{array}{cc}{E}_{m_1}& O\\ C& E_{m_2}\end{array}\right]}^{-1}=\left[\begin{array}{cc}{E}_{m_1}& O\\ -C& E_{m_2}\end{array}\right]$
• ${\left[\begin{array}{cc}C& O\\ O& E_{m_2}\end{array}\right]}^{-1}=\left[\begin{array}{cc}{C}^{-1}& O\\ O& E_{m_2}\end{array}\right]$，其中$C$可逆
• ${\left[\begin{array}{ccc}O& E_{m_2}& \\ E_{m_1}& O& \end{array}\right]}^{-1}=\left[\begin{array}{ccc}O& E_{m_1}& \\ E_{m_2}& O& \end{array}\right]$

分块矩阵的逆的一般公式由以下结论导出：

• 定理：设$A\in F^{m\times m}$可逆，$D\in F^{n\times n}$，则$\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]$可逆的充要条件为$M=D-C{A}^{-1}B$可逆，且${\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^{-1}=\left[\begin{array}{cc}{A}^{-1}+A^{-1}D{M}^{-1}C{A}^{-1}& -A^{-1}D{M}^{-1}\\ -M^{-1}C{A}^{-1}& M^{-1}\end{array}\right]$
  证：
  $$\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\stackrel{\text{行倍加}}{\to }\left[\begin{array}{cc}A& B\\ O& D-C{A}^{-1}B\end{array}\right]\stackrel{\text{列倍加}}{\to }\left[\begin{array}{cc}A& O\\ O& D-C{A}^{-1}B\end{array}\right]$$由倍加变换不改变行列式的值，得$$det\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]=det\left[\begin{array}{cc}A& O\\ O& D-C{A}^{-1}B\end{array}\right]=det(A)det(M)$$故$det\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\ne 0$的充要条件为$det(M)\ne 0$，得证。
  将上述初等变换用分块初等矩阵写出就是$$\left[\begin{array}{cc}{E}_m& O\\ -C{A}^{-1}& E_n\end{array}\right]\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\left[\begin{array}{cc}{E}_m& -A^{-1}B\\ O& E_n\end{array}\right]=\left[\begin{array}{cc}A& O\\ O& M\end{array}\right]$$于是$$\begin{array}{rl}{\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^{-1}& ={\left({\left[\begin{array}{cc}{E}_m& O\\ -C{A}^{-1}& E_n\end{array}\right]}^{-1}\left[\begin{array}{cc}A& O\\ O& M\end{array}\right]{\left[\begin{array}{cc}{E}_m& -A^{-1}B\\ O& E_n\end{array}\right]}^{-1}\right)}^{-1}\\ & =\left[\begin{array}{cc}{E}_m& -A^{-1}B\\ O& E_n\end{array}\right]\left[\begin{array}{cc}{A}^{-1}& O\\ O& M^{-1}\end{array}\right]\left[\begin{array}{cc}{E}_m& O\\ -C{A}^{-1}& E_n\end{array}\right]\\ & =\left[\begin{array}{cc}{A}^{-1}+A^{-1}B{M}^{-1}C{A}^{-1}& -A^{-1}B{M}^{-1}\\ -M^{-1}C{A}^{-1}& M^{-1}\end{array}\right]\end{array}$$可以使用逆矩阵的定义验证一下上式是否正确。

同理可得

• 定理：设$D\in F^{n\times n}$可逆，$A\in F^{m\times m}$，则$\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]$可逆的充要条件为$M=A-B{D}^{-1}C$可逆，且${\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^{-1}=\left[\begin{array}{cc}{M}^{-1}& -M^{-1}B{D}^{-1}\\ -D^{-1}C{M}^{-1}& D^{-1}+D^{-1}C{M}^{-1}B{D}^{-1}\end{array}\right]$
• 定理：设$B\in F^{m\times m}$可逆，$C\in F^{n\times n}$，则$\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]$可逆的充要条件为$M=C-D{B}^{-1}A$可逆，且${\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^{-1}=\left[\begin{array}{cc}-M^{-1}D{B}^{-1}& M^{-1}\\ B^{-1}+B^{-1}A{M}^{-1}D{B}^{-1}& -B^{-1}A{M}^{-1}\end{array}\right]$
• 定理：设$C\in F^{n\times n}$可逆，$B\in F^{m\times m}$，则$\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]$可逆的充要条件为$M=B-A{C}^{-1}D$可逆，且${\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]}^{-1}=\left[\begin{array}{cc}-C^{-1}D{M}^{-1}& C^{-1}+C^{-1}D{M}^{-1}A{C}^{-1}\\ M^{-1}& -M^{-1}A{C}^{-1}\end{array}\right]$

分块矩阵的秩

分块矩阵是研究矩阵的秩的重要工具，从分块矩阵的视角证明秩的结论往往非常简便。这里先给出一些基本结论：

• 定理：$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]=r\left[\begin{array}{cc}O& A\\ B& O\end{array}\right]=r(A)+r(B)$，其中A，B是任意大小的矩阵
  证：（以$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]=r(A)+r(B)$为例）
  由矩阵的秩的定义，A，B中最高阶非零子式的阶数分别为$r(A),r(B)$，分别设这两个子式为$|A_1|,|B_1|$，则$\left|\begin{array}{cc}{A}_1& O\\ O& B_1\end{array}\right|$是$\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]$的一个非零子式，故它的秩至少为r(A)+r(B)。显然任意阶数大于r(A)+r(B)的子式也具有$\left|\begin{array}{cc}{A}_2& O\\ O& B_2\end{array}\right|$的形式（其中$A_2$，$B_2$的阶数有可能为零），且要么$A_2$的阶数大于$r(A)$，要么$B_2$的阶数大于$r(B)$，即$det(A_2)=0$或$det(B_2)=0$，故由拉普拉斯展开式得$\left|\begin{array}{cc}{A}_2& O\\ O& B_2\end{array}\right|=det(A_2)det(B_2)=0$，这就证明了$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]=r(A)+r(B)$。
• 定理：$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]⩽r\left[\begin{array}{cc}A& O\\ \ast & B\end{array}\right]$，$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]⩽r\left[\begin{array}{cc}A& \ast \\ O& B\end{array}\right]$
  证：（以$r\left[\begin{array}{cc}A& O\\ O& B\end{array}\right]⩽r\left[\begin{array}{cc}A& O\\ \ast & B\end{array}\right]$为例）
  由拉普拉斯展开式知， [ A O O B ] \begin{bmatrix}A&O\\O&B\end{bmatrix}