1.3 矩阵

一、向量与矩阵

下面是三个向量 $\mathbf{u}$、$\mathbf{v}$、$\mathbf{w}$： u = [      1 − 1      0 ] v = [      0      1 − 1 ] w = [ 0 0 1 ] \boldsymbol u=\begin{bmatrix}\,\,\,\,1\\-1\\\,\,\,\,0\end{bmatrix}\kern 10pt\boldsymbol v=\begin{bmatrix}\,\,\,\,0\\\,\,\,\,1\\-1\end{bmatrix}\kern 10pt\boldsymbol w=\begin{bmatrix}0\\0\\1\end{bmatrix} u= ​1−10​ ​v= ​01−1​ ​w= ​001​ ​它们在三维空间中的线性组合是 $x_1\mathbf{u}+x_2\mathbf{v}+x_3\mathbf{w}$： 向量的线性组合 ： x 1 [      1 − 1      0 ] + x 2 [      0      1 − 1 ] + x 3 [ 0 0 1 ] = [ x 1 x 2 − x 1 x 3 − x 2 ] ( 1.3.1 ) \textbf{向量的线性组合}：\kern 5ptx_1\begin{bmatrix}\,\,\,\,1\\-1\\\,\,\,\,0\end{bmatrix}+x_2\begin{bmatrix}\,\,\,\,0\\\,\,\,\,1\\-1\end{bmatrix}+x_3\begin{bmatrix}0\\0\\1\end{bmatrix}=\begin{bmatrix}x_1\kern 23pt\\x_2-x_1\\x_3-x_2\end{bmatrix}\kern 12pt(1.3.1) 向量的线性组合：x1​ ​1−10​ ​+x2​ ​01−1​ ​+x3​ ​001​ ​= ​x1​x2​−x1​x3​−x2​​ ​(1.3.1)现在利用矩阵改写式（1.3.1），$\mathbf{u}$、$\mathbf{v}$、$\mathbf{w}$ 变成矩阵 $A$ 的列，得到一个矩阵 $A$ 乘向量 $(x_1,x_2,x_3)$：

矩阵乘向量，列的组合 ： A x = [      1      0 0 − 1 1 0      0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 x 2 − x 1 x 3 − x 2 ] ( 1.3.2 ) \textbf{矩阵乘向量，列的组合}：\kern 5ptA\boldsymbol x=\begin{bmatrix}\,\,\,\,1&\,\,\,\,0&0\\-1&\kern 7pt1&0\\\,\,\,\,0&-1&1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_1\kern 23pt\\x_2-x_1\\x_3-x_2\end{bmatrix}\kern 20pt(1.3.2) 矩阵乘向量，列的组合：Ax= ​1−10​01−1​001​ ​ ​x1​x2​x3​​ ​= ​x1​x2​−x1​x3​−x2​​ ​(1.3.2)

$x_1$、$x_2$、$x_3$ 是向量 $\mathbf{x}$ 的分量，矩阵 $A$ 乘向量 $\mathbf{x}$ 与式（1.3.1）三个列的线性组合等价。
这里的改写可以让我们从不同的视角来观察，一开始是三个数字 $x_1$，$x_2$，$x_3$ 乘向量，现在是矩阵乘这三个数字。矩阵 $A$ 作用于向量 $\mathbf{x}$，输出的 $A\mathbf{x}$ 是矩阵 $A$ 列的组合 $\mathbf{b}$。
为方便观察，将 $A\mathbf{x}$ 的分量记为 $b_1$，$b_2$，$b_3$： A x = [ 1 0 0 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 x 2 − x 1 x 3 − x 2 ] = [ b 1 b 2 b 3 ] = b ( 1.3.3 ) A\boldsymbol x=\begin{bmatrix}\kern 7pt1&\kern 7pt0&0\\-1&\kern 7pt1&0\\\kern 7pt0&-1&1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_1\kern 23pt\\x_2-x_1\\x_3-x_2\end{bmatrix}=\begin{bmatrix}b_1\\b_2\\b_3\end{bmatrix}=\boldsymbol b\kern 20pt(1.3.3) Ax= ​1−10​01−1​001​ ​ ​x1​x2​x3​​ ​= ​x1​x2​−x1​x3​−x2​​ ​= ​b1​b2​b3​​ ​=b(1.3.3)输入是 $\mathbf{x}$，输出是 $\mathbf{b}=A\mathbf{x}$。这里 $A$ 是一个差分矩阵（difference matrix），因为 $\mathbf{b}$ 包含了输入 $\mathbf{x}$ 的差。最上面的差是 $x_1-x_0=x_1-0$。
当 $\mathbf{x}=(1,4,9)$ 时：$\mathbf{x}$ 中是平方数，$\mathbf{b}$ 中是奇数： x = [ 1 4 9 ] = 平方数 A x = [ 1 − 0 4 − 1 9 − 4 ] = [ 1 3 5 ] = b ( 1.3.4 ) \boldsymbol x=\begin{bmatrix}1\\4\\9\end{bmatrix}=平方数\kern 10ptA\boldsymbol x=\begin{bmatrix}1-0\\4-1\\9-4\end{bmatrix}=\begin{bmatrix}1\\3\\5\end{bmatrix}=\boldsymbol b\kern 20pt(1.3.4) x= ​149​ ​=平方数Ax= ​1−04−19−4​ ​= ​135​ ​=b(1.3.4)这里可以扩展到 $4\times 4$ 的矩阵，下一个平方数 $x_4=16$，下一个差是 $x_4-x_3=16-9=7$（下个奇数）。这个矩阵可以一次性将所有的差 $1$、$3$、$5$、$7$ 都计算出来。
重要注解： 每次乘一行。矩阵与向量的乘法，可以用另一种方式来解释，即使用行而不是列。$A\mathbf{x}$ 也是行的点积：

矩阵乘向量，行的点积 ： A x = [ 1 0 0 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ ( 1 , 0 , 0 ) ⋅ ( x 1 , x 2 , x 3 ) ( − 1 , 1 , 0 ) ⋅ ( x 1 , x 2 , x 3 ) ( 0 , − 1 , 1 ) ⋅ ( x 1 , x 2 , x 3 ) ] ( 1.3.5 ) \textbf{矩阵乘向量，行的点积}：A\boldsymbol x=\begin{bmatrix}\kern 7pt1&\kern 7pt0&0\\-1&\kern 7pt1&0\\\kern 7pt0&-1&1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}\kern 7pt(1,0,0)\cdot(x_1,x_2,x_3)\\(-1,1,0)\cdot(x_1,x_2,x_3)\\(0,-1,1)\cdot(x_1,x_2,x_3)\end{bmatrix}\kern 15pt(1.3.5) 矩阵乘向量，行的点积：Ax= ​1−10​01−1​001​ ​ ​x1​x2​x3​​ ​= ​(1,0,0)⋅(x1​,x2​,x3​)(−1,1,0)⋅(x1​,x2​,x3​)(0,−1,1)⋅(x1​,x2​,x3​)​ ​(1.3.5)

二、线性方程组

以前的问题是数字 $x_1$、$x_2$、$x_3$ 已知，求 $\mathbf{b}$；现在的问题是 $\mathbf{b}$ 已知，求出 $\mathbf{x}$。
老问题：计算线性组合 $x_1\mathbf{u}+x_2\mathbf{v}+x_3\mathbf{w}$ 求出 $\mathbf{b}$。
新问题：$\mathbf{u}$、$\mathbf{v}$、$\mathbf{w}$ 什么样的线性组合可以得到特定的向量 $\mathbf{b}$ ？
这两个问题是相反的。新问题是求解输入 $\mathbf{x}$ 以便得到输出 $\mathbf{b}=A\mathbf{x}$。这是 $x_1$、$x_2$、$x_3$ 的线性方程组，方程右侧是 $b_1$、$b_2$、$b_3$，现在要求解 $A\mathbf{x}=\mathbf{b}$ 找到 $x_1$，$x_2$，$x_3$：

$$方程A\mathbf{x}=\mathbf{b}\begin{array}{c}{x}_1=b_1\\ -x_1+x_2=b_2\\ -x_2+x_3=b_3\end{array}解\mathbf{x}=A^{-1}\mathbf{b}\begin{array}{c}{x}_1=b_1\\ x_2=b_1+b_2\\ x_3=b_1+b_2+b_3\end{array}(\mathrm{1.3.6})$$

大部分线性系统并不容易求解。但是该例中，第一个方程求出 $x_1=b_1$，第二个方程求出 $x_2=b_1+b_2$，第三个方程求出 $x_3=b_1+b_2+b_3$。因为 $A$ 是三角矩阵，这些方程可以有序的求出解（从顶部到底部）。
下面是两个具体的例子： b = [ 0 0 0 ] 得   x = [ 0 0 0 ] , b = [ 1 3 5 ] 得   x = [ 1 1 + 3 1 + 3 + 5 ] = [ 1 4 9 ] \boldsymbol b=\begin{bmatrix}0\\0\\0\end{bmatrix}得\,\boldsymbol x=\begin{bmatrix}0\\0\\0\end{bmatrix},\kern 5pt\boldsymbol b=\begin{bmatrix}1\\3\\5\end{bmatrix}得\,\boldsymbol x=\begin{bmatrix}1\kern 36pt\\1+3\kern 18pt\\1+3+5\end{bmatrix}=\begin{bmatrix}1\\4\\9\end{bmatrix} b= ​000​ ​得x= ​000​ ​,b= ​135​ ​得x= ​11+31+3+5​ ​= ​149​ ​第一个解全都是 $0$ 的例子是很重要。用语言来描述就是：如果输出 $\mathbf{b}=0$，则必有输入 $\mathbf{x}=0$。对于这个矩阵 $A$ 是成立的，但并不是对所有的矩阵都成立。
矩阵 $A$ 是可逆的，从 $\mathbf{b}$ 可以反推得到 $\mathbf{x}$，记作 $\mathbf{x}=A^{-1}\mathbf{b}$。

三、逆矩阵

式（1.3.6）中的 $A^{-1}$ 是一个求和矩阵： 求解   A x = b [ x 1 x 2 x 3 ] = [ b 1 b 1 + b 2 b 1 + b 2 + b 3 ] = [ 1 0 0 1 1 0 1 1 1 ] [ b 1 b 2 b 3 ] ( 1.3.7 ) 求解\,A\boldsymbol x=\boldsymbol b\kern 10pt\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}b_1\kern 43pt\\b_1+b_2\kern 22pt\\b_1+b_2+b_3\end{bmatrix}=\begin{bmatrix}1&0&0\\1&1&0\\1&1&1\end{bmatrix}\begin{bmatrix}b_1\\b_2\\b_3\end{bmatrix}\kern 15pt(1.3.7) 求解Ax=b ​x1​x2​x3​​ ​= ​b1​b1​+b2​b1​+b2​+b3​​ ​= ​111​011​001​ ​ ​b1​b2​b3​​ ​(1.3.7)如果 $\mathbf{x}$ 之间的差是 $\mathbf{b}$，那么 $\mathbf{b}$ 之间的和就是 $\mathbf{x}$。方程式（1.3.7）的求和矩阵就是差分矩阵 $A$ 的逆矩阵 $A^{-1}$。
例：$\mathbf{x}=(1,2,3)$ 的差是 $\mathbf{b}=(1,1,1)$，所以 $\mathbf{b}=A\mathbf{x}$，$\mathbf{x}=A^{-1}\mathbf{b}$： A x = [ 1 0 0 − 1 1 0 0 − 1 1 ] [ 1 2 3 ] = [ 1 1 1 ] A − 1 b = [ 1 0 0 1 1 0 1 1 1 ] [ 1 1 1 ] = [ 1 2 3 ] A\boldsymbol x=\begin{bmatrix}\kern 7pt1&\kern 7pt0&0\\-1&\kern 7pt1&0\\\kern 7pt0&-1&1\end{bmatrix}\begin{bmatrix}1\\2\\3\end{bmatrix}=\begin{bmatrix}1\\1\\1\end{bmatrix}\kern 10ptA^{-1}\boldsymbol b=\begin{bmatrix}1&0&0\\1&1&0\\1&1&1\end{bmatrix}\begin{bmatrix}1\\1\\1\end{bmatrix}=\begin{bmatrix}1\\2\\3\end{bmatrix} Ax= ​1−10​01−1​001​ ​ ​123​ ​= ​111​ ​A−1b= ​111​011​001​ ​ ​111​ ​= ​123​ ​从方程（1.3.7）的解 $\mathbf{x}=(x_1,x_2,x_3)$ 可以得到两个结论：

1. 对于每一个 $\mathbf{b}$，都存在一个 $A\mathbf{x}=\mathbf{b}$ 的解；
2. 矩阵 $A^{-1}$ 可以得到解 $\mathbf{x}=A^{-1}\mathbf{b}$。

微积分注解：将这些特殊的矩阵同微积分联系起来，向量 $\mathbf{x}$ 对应函数 $x(t)$，差分 $A\mathbf{x}$ 对应导数 $\text{d}x/\text{d}t=b(t)$，和 $A^{-1}\mathbf{b}$ 就对应 $b(t)$ 的积分。差的和就像导数的积分。
从微积分的基础定理我们知道：导数和积分互为逆运算。$$A\mathbf{x}=\mathbf{b}与\mathbf{x}=A^{-1}\mathbf{b}\frac{\text{d}x}{\text{d}t}=b(t)与x(t)={\int }_0^{t}b(t)\text{d}t(\mathrm{1.3.8})$$平方数 $0$，$1$，$4$，$9$ 的差分是奇数 $1$，$3$，$5$，$7$，$x(t)=t^2$ 的导数是 $2t$，当 $t=1,2,3$ 时得到偶数 $b=2,4,6$。但是差分和导数不同，这里矩阵 $A$ 得到的不是 $2t$，而是 $2t-1$：反向差分（backward difference）$$x(t)-x(t-1)=t^2-(t-1{)}^2=t^2-(t^2-2t+1)=2t-1(\mathrm{1.3.9})$$前向差分（forward difference）会得到 $2t+1$。中心差分（centered difference）是 $\Delta x/\Delta t$，其中 $\Delta x=x(t+1)-x(t-1)$，$\Delta t=(t+1)-(t-1)=2$：$$x(t)=t^2的中心差分\frac{(t+1{)}^2-(t-1{)}^2}{2}=2t(\mathrm{1.3.10})$$

四、循环差分

循环差分（cyclic difference）是不可逆的，这里同上个例子有三个向量， $\mathbf{u}$ 和 $\mathbf{v}$ 不变，将 $\mathbf{w}$ 改成 ${\mathbf{w}}^{\ast }$： u = [ 1 − 1 0 ] v = [ 0 1 − 1 ] w ∗ = [ − 1 0 1 ] \boldsymbol u=\begin{bmatrix}\kern 7pt1\\-1\\\kern 7pt0\end{bmatrix}\kern 5pt\boldsymbol v=\begin{bmatrix}\kern 7pt0\\\kern 7pt1\\-1\end{bmatrix}\kern 5pt\boldsymbol w^*=\begin{bmatrix}-1\\\kern 7pt0\\\kern 7pt1\end{bmatrix} u= ​1−10​ ​v= ​01−1​ ​w∗= ​−101​ ​现在 $\mathbf{u},\mathbf{v},{\mathbf{w}}^{\ast }$ 的线性组合将得到循环差分矩阵 $C$：

循环差分 C x = [ 1 0 − 1 − 1 1 0 0 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 − x 3 x 2 − x 1 x 3 − x 2 ] = b ( 1.3.11 ) \textbf{循环差分}\kern 15ptC\boldsymbol x=\begin{bmatrix}\kern 7pt1&\kern 7pt0&-1\\-1&\kern 7pt1&\kern 7pt0\\\kern 7pt0&-1&\kern 7pt1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_1-x_3\\x_2-x_1\\x_3-x_2\end{bmatrix}=\boldsymbol b\kern 15pt(1.3.11) 循环差分Cx= ​1−10​01−1​−101​ ​ ​x1​x2​x3​​ ​= ​x1​−x3​x2​−x1​x3​−x2​​ ​=b(1.3.11)

$C$ 不是一个三角矩阵。当给定 $\mathbf{b}$ 时，$C\mathbf{x}=\mathbf{b}$ 要么有无穷多个解，要么无解： C x = 0   有无穷多个解   x [ x 1 − x 3 x 2 − x 1 x 3 − x 2 ] = [ 0 0 0 ] 的解是所有向量 [ x 1 x 2 x 3 ] = [ c c c ] ( 1.3.12 ) C\boldsymbol x=\boldsymbol 0\,有无穷多个解\,\boldsymbol x\kern 10pt\begin{bmatrix}x_1-x_3\\x_2-x_1\\x_3-x_2\end{bmatrix}=\begin{bmatrix}0\\0\\0\end{bmatrix} 的解是所有向量\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}c\\c\\c\end{bmatrix}\kern 10pt(1.3.12) Cx=0有无穷多个解x ​x1​−x3​x2​−x1​x3​−x2​​ ​= ​000​ ​的解是所有向量 ​x1​x2​x3​​ ​= ​ccc​ ​(1.3.12)每一个常数 $c$ 都满足，例如 $\mathbf{x}=(3,3,3)$ 的循环差都是 $0$。任意常数 $c$ 就像不定积分时所加的任意常数 $+C$。
$C\mathbf{x}=\mathbf{b}$ 更大的可能是 $\mathbf{x}$ 无解： C x = b [ x 1 − x 3 x 2 − x 1 x 3 − x 2 ] = [ 1 3 5 ] 左侧相加等于 0 右侧相加等于 9 x 1 , x 2 , x 3 无解 ( 1.3.13 ) C\boldsymbol x=\boldsymbol b\kern 10pt\begin{bmatrix}x_1-x_3\\x_2-x_1\\x_3-x_2\end{bmatrix}=\begin{bmatrix}1\\3\\5\end{bmatrix}\kern 10pt\begin{matrix}左侧相加等于0\\右侧相加等于9\\x_1,x_2,x_3无解\end{matrix}\kern 10pt(1.3.13) Cx=b ​x1​−x3​x2​−x1​x3​−x2​​ ​= ​135​ ​左侧相加等于0右侧相加等于9x1​,x2​,x3​无解​(1.3.13)从几何角度来看，不存在 $\mathbf{u},\mathbf{v},{\mathbf{w}}^{\ast }$ 的线性组合可以得到向量 $\mathbf{b}=(1,3,5)$，它们的线性组合无法形成全部的三维空间。右侧的向量必须满足 $b_1+b_2+b_3=0$ 才能保证 $C\mathbf{x}=\mathbf{b}$ 有解，因为左侧的 $(x_1-x_3)+(x_2-x_1)+(x_3-x_2)=0$。换句话说：
所有的线性组合 $x_1\mathbf{u}+x_2\mathbf{v}+x_3{\mathbf{w}}^{\ast }$ 落在平面 $b_1+b_2+b_3=0$ 上。
这里将代数与几何相结合，线性组合可以形成整个空间，也可以只形成一个平面。Figure1.10 展示了这两种情况之间的差别：

五、无关与相关

Figure1.10 中第一个图是矩阵 $A$ 的列向量，第二个图是矩阵 $C$ 的列向量。$\mathbf{u}$ 和 $\mathbf{v}$ 是一样的，只看这两个向量的组合，可以得到一个二维的平面，关键是第三个向量是否在这个平面上。
无关（independence）：$\mathbf{w}$ 不在 $\mathbf{u}$ 和 $\mathbf{v}$ 形成的平面上。
相关（dependence）：${\mathbf{w}}^{\ast }$ 在 $\mathbf{u}$ 和 $\mathbf{v}$ 形成的平面上。
重点在于向量 ${\mathbf{w}}^{\ast }$ 是 $\mathbf{u}$ 和 $\mathbf{v}$ 的线性组合： u + v + w ∗ = 0 w ∗ = [ − 1 0 1 ] = − u − v ( 1.3.14 ) \boldsymbol u+\boldsymbol v+\boldsymbol w^*=\boldsymbol 0\kern 15pt\boldsymbol w^*=\begin{bmatrix}-1\\\kern 7pt0\\\kern 7pt1\end{bmatrix}=-\boldsymbol u-\boldsymbol v\kern 20pt(1.3.14) u+v+w∗=0w∗= ​−101​ ​=−u−v(1.3.14)这三个向量 $\mathbf{u},\mathbf{v},{\mathbf{w}}^{\ast }$ 分量的和都是零，它们所有的线性组合都会有 $b_1+b_2+b_3=0$（即将这三个方程相加），这个平面就是 $\mathbf{u}$ 和 $\mathbf{v}$ 的线性组合所形成的，而 ${\mathbf{w}}^{\ast }$ 已经在这个平面上了，我们并没有得到任何新的向量。
而 $\mathbf{w}=(0,0,1)$ 并不在这个平面上，因为 $0+0+1\ne 0$，$\mathbf{u},\mathbf{v},\mathbf{w}$ 的线性组合可以形成整个三维空间。对于任意的 $\mathbf{b}$，我们可以通过式（1.3.6）$\mathbf{x}=A^{-1}\mathbf{b}$ 找到它的线性组合，使方程成立。
$\mathbf{u},\mathbf{v},\mathbf{w}$ 无关，除了 $0\mathbf{u}+0\mathbf{v}+0\mathbf{w}=0$ 外，没有其它任何线性组合可以得到 $\mathbf{b}=0$。
$\mathbf{u},\mathbf{v},{\mathbf{w}}^{\ast }$ 相关，存在除 $\mathbf{x}=(0,0,0)$ 之外的其它线性组合使得 $A\mathbf{x}=\mathbf{b}=0$。
将其推广到 $n$ 维空间的 $n$ 个向量，则这些向量是一个 $n\times n$ 矩阵的列：
无关列：$A\mathbf{x}=0$ 仅有一个解，$A$ 是可逆矩阵。
相关列：$C\mathbf{x}=0$ 有很多解，$C$ 是奇异矩阵。

六、主要内容总结

1. 矩阵乘向量：$A\mathbf{x}=A$ 列的线性组合。
2. 当 $A$ 是可逆矩阵时，$A\mathbf{x}=\mathbf{b}$ 的解是 $\mathbf{x}=A^{-1}\mathbf{b}$。
3. 循环差分矩阵 $C$ 没有逆矩阵，因为它的三个列在同一平面，这些相关列相加是零向量，$C\mathbf{x}=0$ 有很多解。

七、例题

【例1】 将 $A$ 的左下角单元 $a_{31}$（第3行，1列）改成 $a_{31}=1$，则 $A\mathbf{x}=\mathbf{b}$ 变成： [ 1 0 0 − 1 1 0 1 − 1 1 ] [ x 1 x 2 x 3 ] = [ x 1 − x 1 + x 2 x 1 − x 2 + x 3 ] = [ b 1 b 2 b 3 ] \begin{bmatrix}\kern 7pt1&\kern 7pt0&0\\-1&\kern 7pt1&0\\\kern 7pt1&-1&1\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_1\kern 47pt\\-x_1+x_2\kern 31pt\\x_1-x_2+x_3\end{bmatrix}=\begin{bmatrix}b_1\\b_2\\b_3\end{bmatrix} ​1−11​01−1​001​ ​ ​x1​x2​x3​​ ​= ​x1​−x1​+x2​x1​−x2​+x3​​ ​= ​b1​b2​b3​​ ​对任意的 $\mathbf{b}$ 求出 $\mathbf{x}$。求出 $A$ 的逆矩阵 $A^{-1}$，使得 $\mathbf{x}=A^{-1}\mathbf{b}$ 成立。
解： 从上到下求解（线性三角形）系统 $A\mathbf{x}=\mathbf{b}$： { x 1 = b 1 x 2 = b 1 + b 2 x 3 = b 2 + b 3 可得   x = A − 1 b = [ 1 0 0 1 1 0 0 1 1 ] [ b 1 b 2 b 3 ] \left\{\begin{matrix}x_1=b_1\kern 44pt\\x_2=b_1+b_2\kern 22pt\\x_3=\kern 21ptb_2+b_3\end{matrix}\right.可得\,\boldsymbol x=A^{-1}\boldsymbol b=\begin{bmatrix}1&0&0\\1&1&0\\0&1&1\end{bmatrix}\begin{bmatrix}b_1\\b_2\\b_3\end{bmatrix} ⎩ ⎨ ⎧​x1​=b1​x2​=b1​+b2​x3​=b2​+b3​​可得x=A−1b= ​110​011​001​ ​ ​b1​b2​b3​​ ​矩阵 $A$ 的三个列仍是无关列，它们不在同一平面，这三个列的线性组合使用正确的加权 $x_1$，$x_2$，$x_3$，可以得到任意的三维向量 $\mathbf{b}=(b_1,b_2,b_3)$，而这些加权可以从 $\mathbf{x}=A^{-1}\mathbf{b}$ 得到。

【例2】$E$ 是一个消元（elimination）矩阵，$E$ 有一个减法，$E^{-1}$ 则有一个加法。$$\mathbf{b}=E\mathbf{x}\left[\begin{array}{c}{b}_1\\ b_2\end{array}\right]=\left[\begin{array}{c}{x}_1\\ x_2-l{x}_1\end{array}\right]=\left[\begin{array}{cc}1& 0\\ -l& 1\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]E=\left[\begin{array}{cc}1& 0\\ -l& 1\end{array}\right]$$第一个方程是 $x_1=b_1$，第二个方程是 $x_2-l{x}_1=b_2$。因为消元矩阵有减法，所以其逆矩阵会把 $l{b}_1$ 加到 $b_2$：$$\mathbf{x}=E^{-1}\mathbf{b}\left[\begin{array}{c}{x}_1\\ x_2\end{array}\right]=\left[\begin{array}{c}{b}_1\\ l{b}_1+b_2\end{array}\right]=\left[\begin{array}{cc}1& 0\\ l& 1\end{array}\right]\left[\begin{array}{c}{b}_1\\ b_2\end{array}\right]E^{-1}=\left[\begin{array}{cc}1& 0\\ l& 1\end{array}\right]$$
【例3】将矩阵 $C$ 从循环差分变为中心差分产生 $x_3-x_1$： C x = b [ 0 1 0 − 1 0 1 0 − 1 0 ] [ x 1 x 2 x 3 ] = [ x 2 − 0 x 3 − x 1 0 − x 2 ] = [ b 1 b 2 b 3 ] ( 1.3.15 ) C\boldsymbol x=\boldsymbol b\kern 15pt\begin{bmatrix}\kern 7pt0&\kern 7pt1&0\\-1&\kern 7pt0&1\\\kern 7pt0&-1&0\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=\begin{bmatrix}x_2-0\kern 6pt\\x_3-x_1\\0-x_2\end{bmatrix}=\begin{bmatrix}b_1\\b_2\\b_3\end{bmatrix}\kern 20pt(1.3.15) Cx=b ​0−10​10−1​010​ ​ ​x1​x2​x3​​ ​= ​x2​−0x3​−x1​0−x2​​ ​= ​b1​b2​b3​​ ​(1.3.15)$C\mathbf{x}=\mathbf{b}$ 只有在 $b_1+b_3=x_2-x_2=0$ 时才有解，这个是三维空间中向量 $\mathbf{b}$ 的一个平面。$C$ 的每一列都在这个平面上，该矩阵不可逆，所以这个平面包含了这些列的全部线性组合（即所有的向量 $C\mathbf{x}$）。式（1.3.15）将 0 也写了进去，可以看到矩阵 $C$ 产生了 “中心差分”，$C\mathbf{x}$ 的行 $i$ 是 $x_{i+1}-x_{i-1}$。
下面是 $4\times 4$ 中心差分的例子： C x = b [ 0 1 0 0 − 1 0 1 0 0 − 1 0 1 0 0 − 1 0 ] [ x 1 x 2 x 3 x 4 ] = [ x 1 − 0 x 3 − x 1 x 4 − x 2 0 − x 3 ] = [ b 1 b 2 b 3 b 4 ] C\boldsymbol x=\boldsymbol b\kern 10pt\begin{bmatrix}0&1&0&0\\-1&0&1&0\\0&-1&0&1\\0&0&-1&0\end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\\x_4\end{bmatrix}=\begin{bmatrix}x_1-0\\x_3-x_1\\x_4-x_2\\0-x_3\end{bmatrix}=\begin{bmatrix}b_1\\b_2\\b_3\\b_4\end{bmatrix} Cx=b ​0−100​10−10​010−1​0010​ ​ ​x1​x2​x3​x4​​ ​= ​x1​−0x3​−x1​x4​−x2​0−x3​​ ​= ​b1​b2​b3​b4​​ ​这个矩阵是可逆的！但是 $5\times 5$ 的矩阵是奇异的 $\cdots$