共轭梯度法确实存在数值精度的要求

当我采用单精度计算,共轭梯度法的极限误差(L2 方程残差)为0.00015-0.00016
但当我采用双精度后,这个误差变成了1e-14-1e-15,非常小。

你可能感兴趣的:(共轭梯度法)