关于float的低精度问题

float作为单精度浮点,是存在较大精度损失的。这里的精度损失大小和阶数有关系,当阶数很大时,精度损失也很大。

double也有精度损失,但由于位数多,所以精度更高。

在处理有精度损失的数据时,要关注精度损失对计算结果的影响。

常见情况为 大数吞小数 的情况

即 大数 + 小数 时,小数的值 < 大数的精度, 导致加上过后,在计算机里表示时恰好把小数这部分的值精度损失掉了。

(如float 作累加++,加到6w多就加不上去了)

对于这种问题的解决方案:

1)高精度加法-------kahn求和

2)避免出现大数 + 小数情况,尽量使各个数的范围是差不多量级

转载于:https://www.cnblogs.com/bitghost/p/7324738.html

你可能感兴趣的:(关于float的低精度问题)