Python中关于浮点数运算的不确定尾数的解释

一、浮点数类型

与数学中实数概念一致,带有小数点及小数的数字。浮点数取值范围和小数精度都存在限制,但常规计算可忽略。
取值范围数量级约-10308到10308,精度数量级10-16

二、浮点数运算的不确定尾数

浮点数运算存在不确定尾数,但这不是bug。在很多编程语言都存在这样的问题,涉及计算对数字运算的内部实现原理。

print(0.1 + 0.3)
#结果:0.4
print(0.1 + 0.2)
#结果:0.30000000000000004

我们知道在计算机中,所有数字都是采用二进制方式表示。在Python语言中使用53位二进制来表示一个浮点数的小数部分,约10^-16^,对于小数0.1,它的二进制方式表示如下:

0.000110011001100110011001100110011001100110011001101

但是,由于计算机中二进制跟十进制之间不存在严格的对等关系,所以0.1再用二进制表示的时候,它是一个无限的小数,计算机只能截取其中的53位无限的接近0.1,但它并不是真正的等于0.1。那么经过53位二进制小数表示的这么一个浮点数,如果转换成十进制,它就是0.1,但是后边还会有一个很长很长的尾数,只是计算机再将浮点数结果输出的时候,只输出了其中的16位小数,之后的并没有输出出来。正是因为存在二进制表述小数,它可以无限接近一个十进制的小数,但并不完全相同这样一个问题,所以使得0.10.2进行计算的时候,它在计算机内部经过二进制转换,在经过二进制的运算,在经过反向转换,转换成十进制小数的时候,结果会无线接近0.3,但可能出现一个不确定的尾数。这就是浮点数运算存在不确定尾数的原因。我们再看下边这样一个例子:

print(0.1 + 0.2 == 0.3)

输出结果为:False

三、解决办法

因为浮点数运算存在不确定尾数,所以在浮点数间运算及比较用round()函数辅助。

print(round(0.1 + 0.2, 1) == 0.3)
# 结果:True

你可能感兴趣的:(Python,python)