矩阵分析学习(最小范数解与极小最小二乘解)

广义逆矩阵与线性方程组的解:

设有线性方程组 Ax=b,在这里A是m*n的矩阵,b为m*1的矩阵;如果m=n且A可逆,则Ax=b有唯一解x=(A^-1)b

或者m != n 或 m = n但A不可逆,方程组不一定有解,即便是有解,解的个数也不一定唯一。

定理:n*m矩阵G是m*n矩阵A的一个{1}-广义逆,当且仅当AGA=A;

矩阵分析学习(最小范数解与极小最小二乘解)_第1张图片

(注:这里的X、Y、Z为任意矩阵,一般取O矩阵即可,Q和P可以通过(1)式根据初等变换求解

在这里的Er为单位阵,r等于矩阵A的秩,m*n矩阵的逆为n*m矩阵)

在这里设G为m*n矩阵A的一个{1}-广义逆,并且(GA)^H=GA ,那么对于给定的m*1列向量b,只要Ax=b有解,则

x=Gb就为其最小范数解;(即用{1}-广义逆乘b即是Ax=b的最小范数解)

同时满足条件AGA=A;GAG=G;(GA)^H=GA;(AG)^H=AG的n*m矩阵G称为m*n矩阵A的M-P广义逆,记做A+;

方程Ax=b的极小最小二乘解就是M-P广义逆A+与b的乘积;(即 x=(A+)b

计算m*n阶矩阵A的M-P广义逆(口诀):(A^H) A (A^H);(行满秩后二逆,列满秩前二逆);

根据奇异值分解求解M-P广义逆

矩阵分析学习(最小范数解与极小最小二乘解)_第2张图片

则唯一的广义逆矩阵为:

 两侧的P和Q^H可以根据矩阵的初等变换进行求解,A的M-P广义逆就是将Q^H的共轭转置乘以奇异值构成的矩阵

的逆在乘以P的共轭转置;(简单的记忆就是奇异值分解式两侧矩阵共轭转置,中间矩阵求逆

那么问题的重心就落在求解中间的部分(根据A矩阵进行求解

矩阵分析学习(最小范数解与极小最小二乘解)_第3张图片

矩阵A的奇异值,就是(A^H)A对应的矩阵所有非0(要求大于等于0)特征值的平方

你可能感兴趣的:(矩阵分析,矩阵分析)