6.1 范数最小解，右逆，零空间映射矩阵

6.1 范数最小解，右逆，零空间映射矩阵

矩阵 $A_{mn},rankA=m<n$ 是行满秩矩阵时，高斯消元法可以求得方程 $A\mathbf{x}=\mathbf{b}$ 的解，其解的结构是特解加零解。零解是方程 $A\mathbf{x}=0$ 的解，特解是满足 $A\mathbf{x}=\mathbf{b}$ 的任一向量。很可惜的是，采用高斯消元法，当选择不同的矩阵 $A$ 列空间的基时，可以求得不同的特解，理论上存在无穷多特解满足方程 $A\mathbf{x}=\mathbf{b}$ ，一般情况下，我们希望获得最特殊的特解－－范数最小解，即所有特解中，内积最小特解 $\min \Vert {\mathbf{x}}_p\Vert$ 。

任一特解 ${\mathbf{x}}_p$ 可以进行正交分解，投影到两个方向，一个是零解空间 ${\mathbf{x}}_p^0$，另一个是零解空间的正交补空间 ${\mathbf{x}}_p^{\perp }$ ，则有
$$\Vert {\mathbf{x}}_p{\Vert }^2=\Vert {\mathbf{x}}_p^0{\Vert }^2+\Vert {\mathbf{x}}_p^{\perp }{\Vert }^2\ge \Vert {\mathbf{x}}_p^{\perp }{\Vert }^2$$

成立，这表明当特解在零空间分量为 $0$ 时，其范数最小！即范数最小特解垂直于零解空间！零解空间为：方程 $A\mathbf{x}=0$ 的解构成的空间，解 $\mathbf{x}$ 垂直于矩阵 $A$ 的行空间，也就是说矩阵 $A$ 的行空间垂直于零解空间，所以范数最小特解位于矩阵 $A$ 的行空间，故设范数最小特解为 ${\mathbf{x}}_p^{min}=A^T\mathbf{u}$ ，代入方程得 $A{A}^T\mathbf{u}=\mathbf{b}$ ，矩阵 $A{A}^T$ 的秩等于矩阵 $A$ 的秩，因为 $rankA{A}^T=rankA=m$ ，$A{A}^T$ 是 $m$ 阶方阵，故 $A{A}^T$ 可逆，得到唯一范数最小特解

$$\begin{gathered} \mathbf{u}=(A{A}^T{)}^{-1}\mathbf{b} \\ {\mathbf{x}}_p^{min}=A^T\mathbf{u}=A^T(A{A}^T{)}^{-1}\mathbf{b} \end{gathered}$$

令 $A_R^{-1}=A^T(A{A}^T{)}^{-1}$ ，可以发现 $A{A}_R^{-1}=E_m$ ，称 $A_R^{-1}$ 是 $A$ 的右逆，其尺寸为 $n\times m$ 。所以 ${\mathbf{x}}_p^{min}=A_R^{-1}\mathbf{b}$

定义 右逆 对于行满秩矩阵 $A_{mn}$ ，如果存在矩阵 $B_{nm}$ ，使 $AB=E_m$ 成立，则称 $B$ 是 $A$ 的右逆， $A_R^{-1}=A^T(A{A}^T{)}^{-1}$ 是其中一个右逆。

特别强调下，右逆不唯一，证明如下：假设 $B_{nm}$ 是任意矩阵，如果 $A(A_R^{-1}+B)=E$ 成立，则 $(A_R^{-1}+B)$ 是右逆，因为 $A{A}_R^{-1}=E$ ，则只需 $AB=\mathbf{O}$ ，根据第三章内容，矩阵 $A$ 列向量组是相关组，故矩阵 $B$ 列向量组只要位于矩阵 $A$ 零空间，则 $AB=\mathbf{O}$ ，故有无穷多右逆。如果不特别强调，我们称右逆，都是特指矩阵 $A_R^{-1}=A^T(A{A}^T{)}^{-1}$ 。

注意：虽然右逆不唯一，但是最小范数解是唯一的。

矩阵 $Z=E-A_R^{-1}A$ 称为零空间映射矩阵，因为 $AZ=A(E-A_R^{-1}A)=A-A{A}_R^{-1}A=A-EA=\mathbf{O}$ ，所以矩阵 $Z$ 的列向量都位于矩阵 $A$ 的零空间，则矩阵 $Z$ 的列向量的任意线性组合 $Z\mathbf{a}$ 也位于矩阵 $A$ 的零空间。计算也表明，对于任意向量 $\mathbf{a}$ ，有 $AZ\mathbf{a}=\mathbf{O}\mathbf{a}=0$ 成立，故向量 $Z\mathbf{a}=(E-A_R^{-1}A)\mathbf{a}$ 是零解。

当 ${\mathbf{x}}^{\prime }$ 是任意一个解时，若令 $\mathbf{a}={\mathbf{x}}^{\prime }-A_R^{-1}\mathbf{b}$ ，则有
$$\begin{gathered} (E-A_R^{-1}A)\mathbf{a}=(E-A_R^{-1}A)({\mathbf{x}}^{\prime }-A_R^{-1}\mathbf{b}) \\ ={\mathbf{x}}^{\prime }-A_R^{-1}\mathbf{b}-A_R^{-1}A{\mathbf{x}}^{\prime }+A_R^{-1}A{A}_R^{-1}\mathbf{b} \\ ={\mathbf{x}}^{\prime }-A_R^{-1}\mathbf{b}-A_R^{-1}\mathbf{b}+A_R^{-1}\mathbf{b} \\ ={\mathbf{x}}^{\prime }-A_R^{-1}\mathbf{b} \end{gathered}$$
从而得
$${\mathbf{x}}^{\prime }=A_R^{-1}\mathbf{b}+(E-A_R^{-1}A)\mathbf{a}$$

所以对行满秩矩阵 $A_{mn},rankA=m<n$ ，方程 $A\mathbf{x}=\mathbf{b}$ 的通解，可表示为

$$\begin{gathered} \mathbf{x}=A_R^{-1}\mathbf{b}+(E-A_R^{-1}A)\mathbf{a} \\ {A}_R^{-1}=A^T(A{A}^T{)}^{-1}为右逆，\mathbf{a}为任意n维向量 \\ {A}_R^{-1}\mathbf{b}是范数最小特解，(E-A_R^{-1}A)\mathbf{a}是零解 \end{gathered}$$

由于零解空间的维度是 $n-m$ ，所以 $(E-A_R^{-1}A)$ 的列空间维度是 $n-m$ ，即 $rank(E-A_R^{-1}A)=n-m$ 。