矩阵的条件数及病态方程组的处理

对$Ax=b$,如果A或者b有轻微的变动,会使得求解出的$x$发生巨变,这种矩阵就是病态的

$Ax=b$ 真实情况
$A(\Delta x+x)=\Delta b+b$ 代入误差的扰动情况
$\Delta x=A^{-1}\Delta b$
取范数后有
$||\Delta x||\le ||A^{-1}||||\Delta b||$
$||\Delta b||\le ||A||||x||$
所以

$\frac{||\Delta x||}{||A||||x||}\le \frac{||A^{-1}||||\Delta b||}{||A||||x||}\le \frac{||A^{-1}||||\Delta b||}{||b||}$

$cond(A)=||A||\ast ||A^{-1}||$记为A的条件数
它越小越好,||A||是A的范数
条件数过大,矩阵就是病态是

逆的求解比较复杂,也有一些经验性公式判断病态矩阵

1. 消元中出现绝对值很小的祝愿
2. A元素之间数量级差很大,且无规律
3. A某些行列式近似线性相关
4. 方程组的解向量中有绝对值很大的分量

迭代改善求解
Ax=b
先求一个$x_1$,然后代入$x_1$求b计算和真实b误差$r$,再求解Ax=r,方法迭代更新$x$