矩阵关键概念：消元法、A=LU分解等（PartII）

接着PartI的内容，主要记录以下三个问题：

• Gauss-Jordan 消元法
• A=LU分解
• 矩阵相关性质

---

1.矩阵的消元（Matrix Elimination）
把 A 变成 U 的过程。

线性代数中最重要的一部分莫过于在Ax=b中对x的求解。回想一下，在求解线性方程组（如：二元方程组），我们采用的解法就是先消掉一个元，解出一个未知数后，再回带求解另一个未知数。
矩阵消元的步骤有：
1） 产生一个上三角矩阵（upper trianglar system）
2）回代（back substitution）

详细的做法：
1）将系数矩阵和b结合起来构成增广矩阵。对増广矩阵进行变换行成上三角矩阵，此时从下往上依次有一个未知数，两个未知数，…
讨论消元成功和失败的系数矩阵A：
若主元为0，暂时消元失效，通过行交换可选择新的主元；
若主元为0，且主元行下面行同列的元素均为0，则消元失败；
eg. 类似一个九维空间，消元失败即：更低维的空间存在于九维空间中。相当于八维空间中的向量的线性组合只能覆盖八维空间，那么对于九维空间b，则必然无解。
2）回代，即解出一个未知数，再带入求其他未知数，直至求出所有的解。

【重点-1】怎样把系数矩阵A变成上三角矩阵U？
初等矩阵（Elementary matrix）是桥梁。理解矩阵row picture是关键。

E21这个初等矩阵使得系数矩阵A（2,1）位置变为0
E32这个初等矩阵使得系数矩阵A（3,2）位置变为0

先简单回顾下row picture：
矩阵A的一行乘以矩阵B，得矩阵C的一行 =>行向量乘以矩阵；B中行的线性组合，组合系数为A的一行上的元素。
A的第一行乘以B得C的第一行；A的第二行乘以B得C的第二行；A的第三行乘以B得C的第三行。

举例理解：

第一步：

⎡⎣⎢1−30010001⎤⎦⎥⎡⎣⎢130284111⎤⎦⎥=⎡⎣⎢1002241−21⎤⎦⎥

E21A

上述第一个矩阵是初等矩阵E21,使系数矩阵A在位置（2,1）处变为0。用行向量乘以矩阵方式理解：因需要改变矩阵A位置（2,1）处的值，相当于初等矩阵第二行乘以A，所以初等矩阵只第二行发生了变化。要消掉A21中元素3，用第二行−第一行3倍。于是E21中（2,1）=−3，（2,2）=1，表达的意思就是−3∗第一行+第二行。

第二步：消掉A的（3,2）位置，使用初等矩阵E32

⎡⎣⎢10001−2001⎤⎦⎥⎡⎣⎢1002241−21⎤⎦⎥=⎡⎣⎢1002201−25⎤⎦⎥

E32(E21A)=U

理解上述公式，为了消掉A的（3,2）位置，初等矩阵的第三行发生变化。根据第二行对第三行进行消元，具体消元步骤：−2∗第二行+第三行，所以E32中的（3,2）=−2，（3,3）=1
综上

E32(E21A)=U

由于矩阵乘法满足结合律，所以 (E32E21)A=U ,初等矩阵 E=E32E21 使得系数矩阵A变成上三角矩阵。

Gauss-Jordan Elimination
Ax=b 中由 A 与 b 构成增广矩阵 [A,b] .消元的过程就是把 A 变成上三角矩阵的过程，整个变换中 b 跟着变换。

---

2.A=LU分解
把 A=LU ,一个下三角矩阵 Lower,matrix ,一个上三角矩阵 Upper,matrix 。

E21A=U

[1−401][2817]=[2013]

->

A=L(下三角矩阵)U（上三角矩阵）

[2817]=[1401][2013]

=[1401][2003]⎡⎣10121⎤⎦

总结， E32E31E21A=U , A=E−121E−131E−121U=LU .对于 EA=U,求E−1即L .如果 A=LU ,如果没有行交换， L 直接把 E 对应的乘子改变。

---

3.矩阵相关性质

顺便提及矩阵的置换Permutation
（1）改变矩阵的行
从row picture来考虑，需要给矩阵左乘

[0110][acbd]=[cadb]

（2）改变矩阵的列
从col picture来考虑，需要给矩阵右乘

[acbd][0110]=[bdac]

矩阵的逆Inverses（Squar matrix）
判断其存在逆矩阵的时候，把 A 变成 U ，进一步变成单位矩阵 I ；在此过程中单位矩阵 I 随着变化成 A−1 。
（1）性质： A−1A=I=AA−1 ,两个矩阵的乘积为单位矩阵。
（2）矩阵A不存在逆矩阵的前提： A 是奇异矩阵。
具体地，A行列式为0；
或者 Ax 列的线性组合与b不在同一空间；
能找到使 Ax=0 的向量 x
[A,I]−−>[I,A−1]
执行操作：就是通过各种初等变换把A变成上三角矩阵 U ,接着再把上三角矩阵变成 I .
举例：

A=[1237]

求逆的过程：

[12371001]−−>[10311−201]−−>[10017−2−31]