2.7 矩阵分块及矩阵乘法的四种方式

矩阵分块

为了简化矩阵运算或从不同角度看矩阵乘法，把矩阵分成多块，每块是子矩阵，子矩阵可“看作”一个数，只要满足形状要求，就可进行形式上的矩阵运算。

矩阵乘法实质就是矩阵乘以向量，把向量看成列向量，矩阵乘以向量就是矩阵乘以矩阵，以这个最基础构建来说明矩阵分块运算。矩阵乘以向量是向量组的线性组合，必须从这个根源说起！
$$\begin{gathered} A\mathbf{x}=x_1{\mathbf{a}}_1+\cdots +x_n{\mathbf{a}}_{\mathbf{n}} \\ =(x_1{\mathbf{a}}_1+\cdots +x_k{\mathbf{a}}_{\mathbf{k}})+(x_{k+1}{\mathbf{a}}_{\mathbf{k}+1}+\cdots +x_n{\mathbf{a}}_{\mathbf{n}}) \\ =A_1{\mathbf{x}}_{1\mathbf{k}}+A_2{\mathbf{x}}_{\mathbf{k}\mathbf{n}} \\ =\left[A_1,A_2\right]\left[\begin{array}{c}{\mathbf{x}}_{1\mathbf{k}}\\ {\mathbf{x}}_{\mathbf{k}\mathbf{n}}\end{array}\right] \\ A=\left[{\mathbf{a}}_1,\cdots ,{\mathbf{a}}_{\mathbf{n}}\right] \\ {A}_1=\left[{\mathbf{a}}_1,\cdots ,{\mathbf{a}}_{\mathbf{k}}\right] \\ {A}_2=\left[{\mathbf{a}}_{\mathbf{k}+1},\cdots ,{\mathbf{a}}_{\mathbf{n}}\right] \\ \mathbf{x}=(x_1,\cdots ,x_n) \\ {\mathbf{x}}_{1\mathbf{k}}=(x_1,\cdots ,x_k) \\ {\mathbf{x}}_{\mathbf{k}\mathbf{n}}=(x_{k+1},\cdots ,x_n) \\ k\in [1,n) \end{gathered}$$
上面公式意思是，把矩阵 $A$ 和向量 $\mathbf{x}$ 任意分成两组，对每组进行矩阵乘以向量，然后矩阵写成分块形式，得到分块计算形式
$$\left[A_1,A_2\right]\left[\begin{array}{c}{\mathbf{x}}_{1\mathbf{k}}\\ {\mathbf{x}}_{\mathbf{k}\mathbf{n}}\end{array}\right]＝A_1{\mathbf{x}}_{1\mathbf{k}}+A_2{\mathbf{x}}_{\mathbf{k}\mathbf{n}}$$
矩阵分块运算用向量理论解释的话，就是空间的直和分解。

子矩阵和子向量看成一个数，进行形式上的矩阵乘法，上式就是形式上的行向量乘以列向量得内积！

矩阵其它形式的分块运算道理和这个一样，本书不给出证明。特别强调一点，子矩阵只要满足形状要求，就可进行形式上的矩阵运算，但由于矩阵乘法不满足交换律，一定要注意矩阵相乘的顺序，这个特别容易出错，因为我们太习惯实数的代数运算，经常不自觉地交换变量的前后位置，但矩阵不能交换！

矩阵乘法的四种方式

以矩阵分块看待矩阵，矩阵可以看作是列向量的分块， $A=\left[{\mathbf{a}}_1,{\mathbf{a}}_2,\cdots ,{\mathbf{a}}_{\mathbf{n}}\right]$ ，前面一直是这么看待矩阵，这是最重要的看待方式。矩阵还可以看作是行向量的分块， $A=\left[\begin{array}{c}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}\\ {\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}\end{array}\right]$ ，这也是一种重要的看待方式。为了区分，行向量下标有字母 $r$ 。此时一定要注意， ${\mathbf{a}}_{\mathbf{r}\mathbf{i}}$ 表示列向量，但不是矩阵 $A$ 的列向量，而是矩阵 $A$ 的行向量旋转后变换成的列向量。例如
$$A=\left[\begin{array}{cc}0& 2\\ 1& 3\end{array}\right]{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}=\left[02\right]{\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}=\left[13\right]{\mathbf{a}}_{\mathbf{r}1}=\left[\begin{array}{c}0\\ 2\end{array}\right]{\mathbf{a}}_{\mathbf{r}2}=\left[\begin{array}{c}1\\ 3\end{array}\right]$$
有四种矩阵分块方式进行矩阵相乘。

1. 最常用的，几何意义最明显的，就是定义矩阵乘法的方式，$AB=\left[A{\mathbf{b}}_1,\cdots ,A{\mathbf{b}}_{\mathbf{p}}\right]$ ，即把矩阵 $A$ 作为整体，矩阵 $B$ 看作列向量的分块。积矩阵每列是矩阵 $A$ 列向量组的线性组合。

2. 矩阵 $A$ 看作列向量的分块， $A=\left[{\mathbf{a}}_1,{\mathbf{a}}_2,\cdots ,{\mathbf{a}}_{\mathbf{n}}\right]$ ，矩阵 $B$ 看作行向量的分块， $B=\left[\begin{array}{c}{\mathbf{b}}_{\mathbf{r}1}^{\mathbf{T}}\\ {\mathbf{b}}_{\mathbf{r}2}^{\mathbf{T}}\\ ⋮\\ {\mathbf{b}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}\end{array}\right]$ ，矩阵相乘就是形式上的内积，得 $AB={\mathbf{a}}_1{\mathbf{b}}_{\mathbf{r}1}^{\mathbf{T}}+{\mathbf{a}}_2{\mathbf{b}}_{\mathbf{r}2}^{\mathbf{T}}+\cdots +{\mathbf{a}}_{\mathbf{n}}{\mathbf{b}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}$ ，就是对应列向量与行向量的外积之和。这种看法十分重要，表明积矩阵可以分解为 $n$ 个简单矩阵之和。

3. 矩阵 $A$ 看作行向量的分块，$A=\left[\begin{array}{c}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}\\ {\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}\end{array}\right]$ ，矩阵 $B$ 作为整体。$AB=\left[\begin{array}{c}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}\\ {\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}\end{array}\right]B=\left[\begin{array}{c}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}B\\ {\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}B\\ ⋮\\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}B\end{array}\right]$ 。积矩阵每行是矩阵 $B$ 行向量组的线性组合。

4. 矩阵 $A$ 看作行向量的分块，$A=\left[\begin{array}{c}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}\\ {\mathbf{a}}_{\mathbf{r}2}^{\mathbf{T}}\\ ⋮\\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}\end{array}\right]$ ，矩阵 $B$ 看作列向量的分块， $B=\left[{\mathbf{b}}_1,{\mathbf{b}}_2,\cdots ,{\mathbf{b}}_{\mathbf{n}}\right]$ ，矩阵相乘就是形式上的外积，得 $AB=\left[\begin{array}{cc}{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}{\mathbf{b}}_1& {\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}{\mathbf{b}}_2\cdots ,{\mathbf{a}}_{\mathbf{r}1}^{\mathbf{T}}{\mathbf{b}}_{\mathbf{n}}\\ ⋮& \\ {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}{\mathbf{b}}_1& {\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}{\mathbf{b}}_2\cdots ,{\mathbf{a}}_{\mathbf{r}\mathbf{n}}^{\mathbf{T}}{\mathbf{b}}_{\mathbf{n}}\end{array}\right]$ ，这种看法用来计算积矩阵每个位置的数值，即第 $i$ 行第 $j$ 列的数值是矩阵 $A$ 的第 $i$ 个行向量与矩阵 $B$ 的第 $j$ 个列向量的内积。这种看法计算矩阵数值比较方便。国内教材基本采用这种方式定义矩阵乘法，把矩阵看成数的表格，掩盖了几何图像。