矩阵分析学习（最小范数解与极小最小二乘解）

广义逆矩阵与线性方程组的解：

设有线性方程组 Ax=b，在这里A是m*n的矩阵，b为m*1的矩阵；如果m=n且A可逆，则Ax=b有唯一解x=(A^-1)b

或者m != n 或 m = n但A不可逆，方程组不一定有解，即便是有解，解的个数也不一定唯一。

定理：n*m矩阵G是m*n矩阵A的一个{1}-广义逆，当且仅当AGA=A；

（注：这里的X、Y、Z为任意矩阵，一般取O矩阵即可，Q和P可以通过（1）式根据初等变换求解

在这里的Er为单位阵，r等于矩阵A的秩，m*n矩阵的逆为n*m矩阵）

在这里设G为m*n矩阵A的一个{1}-广义逆，并且(GA)^H=GA ，那么对于给定的m*1列向量b，只要Ax=b有解，则

x=Gb就为其最小范数解；（即用{1}-广义逆乘b即是Ax=b的最小范数解）

同时满足条件AGA=A；GAG=G；(GA)^H=GA；(AG)^H=AG的n*m矩阵G称为m*n矩阵A的M-P广义逆，记做A+；

方程Ax=b的极小最小二乘解就是M-P广义逆A+与b的乘积；（即 x=（A+）b）

计算m*n阶矩阵A的M-P广义逆（口诀）：(A^H) A (A^H)；（行满秩后二逆，列满秩前二逆）；

根据奇异值分解求解M-P广义逆

则唯一的广义逆矩阵为：

 两侧的P和Q^H可以根据矩阵的初等变换进行求解，A的M-P广义逆就是将Q^H的共轭转置乘以奇异值构成的矩阵

的逆在乘以P的共轭转置；（简单的记忆就是奇异值分解式两侧矩阵共轭转置，中间矩阵求逆）

那么问题的重心就落在求解中间的部分（根据A矩阵进行求解）

矩阵A的奇异值，就是(A^H)A对应的矩阵所有非0（要求大于等于0）特征值的平方