数值分析_第五章_解线性方程组的直接方法

高斯消去法

\qquad 高斯消去法实质是产生了一个将$A$分解为两个三角形矩阵相乘的因式分解，即矩阵的因式$LU$分解，如果矩阵$A$的顺序主子式$D_i̸=0(i=1,2,\cdots ,n-1)$，则$A$可以分解为一个单位下三角形矩阵$L$和一个上三角形矩阵$U$的乘积，矩阵的分解是唯一的。

误差分析

\qquad 考虑线性方程组
$$Ax=b$$ \qquad 其中，$A$为非奇异矩阵，$x$为方程组的精确解。由于$A$和$b$中的元素由测量得到的，因此矩阵中会带有观测误差，实际处理的矩阵为$A+\delta A$或$b+\delta b$，微小误差对解的影响使用如下方法表示：
\qquad 当矩阵$A$或常数项$b$的微小变化，引起线性方程组$Ax=b$解的巨大变化，则称此线性方程组为"病态"方程组，矩阵$A$为“病态”方程组，反之为“良态”方程组。
\qquad 假设$A$是精确的，$b$是有误差的$\delta b$，解为$x+\delta x$，则
$$A(x+\delta x)=b+\delta b,\delta b=A^{-1}\delta b,||\delta b||\le ||A^{-1}||||\delta b||$$ \qquad 由线性方程组有
$$||b||\le ||A||||x||,\frac{1}{||x||}\le \frac{||A||}{||b||}(b̸=0)$$ \qquad 则
$$\frac{||\delta x||}{||x||}\le ||A^{-1}||||A||\frac{||\delta b||}{||b||}$$ \qquad 上式给出解的相对误差的上界，常数项$b$的相对误差在解中可能放大了$||A^{-1}||||A||$倍。
$$\frac{||\delta x||}{||x||}\le \frac{||A^{-1}||||A^{}||\frac{||\delta A||}{||A||}}{1-||A^{-1}||||A^{}||\frac{||\delta A||}{||A||}}$$ \qquad 说明矩阵$A$的相对误差在$\frac{||\delta A||}{||A||}$在解中可能放大$||A^{-1}||||A||$倍。$||A^{-1}||||A||$实际刻画了解对原始数据变化的灵敏程度。条件数定义为$cond(A{)}_v=||A|{|}_v||A^{-1}|{|}_v(v=1,2,\infty )$。条件数越大，方程组越病态。常见的条件数：
$$\begin{gathered} (1)cond(A{)}_{\infty }=||A^{-1}|{|}_{\infty }||A|{|}_{\infty } \\ (2)cond(A{)}_2=||A|{|}_2||A^{-1}|{|}_2=\sqrt{\frac{{\lambda }_{max}(A^{T}A)}{{\lambda }_{min}(A{A}^T)}} \end{gathered}$$ \qquad 条件数的性质：
(1) 条件数$cond(A{)}_v\ge 1$
(2) $cond(cA{)}_v=cond(A{)}_v$
(3)如果$A$是正交矩阵，则$cond(A{)}_2=1$，如果$R$是正交矩阵则$cond(RA{)}_2=cond(AR{)}_2=cond(A{)}_2$
\qquad 实际计算中发现病态关系：
(1) $A$的三角约化时出现小主元
(2) 行列式值相对很小
(3) 元素件数量级相差很大
\qquad 改善方法可以采用高精度的算术运算或者采用预处理方法。迭代改善法是用$x_1$的剩余向量提高$x_1$的精度。$Ax=b$为病态方程组并不过分病态。
$1.选用主元三角分解实行分解计算PA\dot{=}LU,计算解x_1$
$2.对于k=1,2,\cdots ,N_0$
$(1)计算r_k=b-A{x}_k(使用原始A及双精度计算)$
$(2)求解LU{d}_k=P{r}_k,即Ly=P{r}_k,U{d}_k=y$
$(3)如果||d_k|{|}_{\infty }/||x_k|{|}_{\infty }\le 10^{-t},输出k,x_k,r_k,停机$
$(4)改善x_{k+1}=x_k+d_k$
\qquad 当系数矩阵不是过分病态时，迭代改善发可以提高近似解精度。当其非常病态时，$x_k$可能不收敛。