线性代数之——矩阵乘法和逆矩阵

1. 矩阵乘法

如果矩阵 的列为 ，那么 的列就是 。

• 置换矩阵（permutation matrix）

在消元的过程中，如果遇到了某一行主元的位置为 0，而其下面一行对应的位置不为 0，我们就可以通过行交换来继续进行消元。

如下的矩阵 可以实现将向量或者矩阵的第 2 、 3 行进行交换。

置换矩阵 就是将单位矩阵的第 行和第 行进行互换，当交换矩阵乘以另一个矩阵时，它的作用就是交换那个矩阵的第 行和第 行。

• 增广矩阵（augmented matrix）

在消元的过程中，方程两边的系数 和 都要进行同样的变换，这样，我们可以把 作为矩阵 的额外的一列，然后，就可以用消元矩阵 乘以这个增广的矩阵一次性完成左右两边的变换。

• 矩阵乘法的四种理解

如果矩阵 有 列， 有 行，那么我们可以进行矩阵乘法 。

假设矩阵 有 行 列，矩阵 有 行 列，那么 是 行 列的。

矩阵乘法的第一种理解方式就是一个一个求取矩阵 位于 处的元素

第二种理解，矩阵 的列是 的列的线性组合

第三种理解，矩阵 的行是 的行的线性组合

第四种理解，矩阵 是所有 的列与 的行的乘积的和

其中，一列乘以一行称为外积（outer product），(n×1)(1×n)=(n, n)，结果为一个 n×n 的矩阵。

• 矩阵乘法的性质

结合律：
交换律：
交换律：

• 分块矩阵

矩阵还可以被划分为小块，其中每个小块都是一个更小的矩阵。

如果对矩阵 的列的划分和对矩阵 的行的划分正好匹配，那么每个块之间就可以进行矩阵乘法。

一种特殊的划分就是矩阵 的每个小块都是 的一列，矩阵 的每个小块都是 的一行，这种情况就是我们上面说的矩阵相乘的第四种理解。

同样地，在消元的时候，我们也可以按块对系数矩阵进行消元。

2. 矩阵的逆

假设 是一个方阵，如果存在一个矩阵 ，使得

那么，矩阵 就是可逆的， 称为 的逆矩阵。

逆矩阵的逆就是进行和原矩阵相反的操作。消元矩阵 的作用是第二个方程减去第一个方程的 2 倍。

其逆矩阵 的作用则是第二个方程加上第一个方程的 2 倍。

• 当且仅当在消元过程中产生 个主元的时候（允许行交换），矩阵 的逆才存在。

• 矩阵 不可能有两个不同的逆矩阵，左逆等于右逆。假设 ， ，那么一定有 。
  

• 如果矩阵 是可逆的，那么 有唯一解 。

• 如果存在一个非零向量 使得 ，那么 不可逆，因为没有矩阵可以将零向量变成一个非零向量。

• 一个 2×2 的矩阵是可逆的，当且仅当 非零。

• 一个对角化矩阵如果其对角线上元素非零，那么其有逆矩阵。

如果矩阵 和矩阵 都是可逆的，那么它们的乘积 也是可逆的。

同样地，针对三个或更多矩阵的乘积，有

3. 高斯－若尔当消元法（Gauss-Jordan Elimination）求矩阵的逆

我们可以通过消元法来求解矩阵 的逆矩阵。思路是这样的，假设 是一个 3×3 的矩阵，那么我们可以建立三个方程来分别求出 的三列。

而高斯－若尔当消元法则是一次性求解出这些方程，之前我们求解一个方程的时候，将 作为 的一列组成增广矩阵，而现在我们则是把 三列一起放入 中形成一个增广矩阵，然后进行消元。

到这里，我们已经得到了一个下三角矩阵 ，高斯就会停在这里然后用回带法求出方程的解，但若尔当将会继续进行消元，直到得到简化阶梯形式（reduced echelon form）。

最后，我们将每行都除以主元得到新的主元都为 1，此时，增广矩阵的前一半矩阵就是 ，而后一半矩阵就是 。

我们用分块矩阵就可以很容易地理解高斯－若尔当消元法，消元的过程就相当于乘以了一个 将 变成了 ，将 变成了 。

获取更多精彩，请关注「seniusen」!