java趣谈--记录容易被忽略的java小知识--(1)浮点数的精度

1.

猜猜返回值是什么?

.

.

.

揭晓答案

false 

再看看下面的图

java趣谈--记录容易被忽略的java小知识--(1)浮点数的精度_第1张图片

必须数据进行类型转换才可相等

java趣谈--记录容易被忽略的java小知识--(1)浮点数的精度_第2张图片

深度探究下原因,原来是浮点数会发生精度丢失,在计算机内部,数据都是由二进制保存的,无法精确的表达我们所需要的数。

举个例子,0.09f,它的存储结果是这样的: 0 01111011 01110000101000111101100

你可以看到它分成了3段: 
第一段符号位(s) : 0 正数, 1 负数 , 其实更准确的表达是 (-1) ^0 
第二段是指数位(e):01111011 ,对应的10进制是 123 

第三段是尾数位(M)

计算公式 :(-1)^s * M * 2^e 

浮点数遵循的是IEEE754 表示法,s(符号) 是对的,但是 e(指数)和 M(尾数) 需要变换:

对于指数e , 一共有8位, 这是个有符号数, 特别是按照IEEE754 规范, 如果不是0或者255, 那就需要减去一个叫偏置量的值,对于float 是127 
所以 E = e - 127 = 123-127 = -4 
对于尾数M ,如果阶码不是0或者255,其实隐藏了一个小数点左边的一个 1 。 

即 M = 1.01110000101000111101100

现在写出来就是: 
1.01110000101000111101100 * 2^-4 
=0.000101110000101000111101100 
= 1/16 + 1/64 + 1/128+ 1/256 + …. 
= 0.0900000035762786865234375 

这就是0.09的内部表示, 很明显比0.09更大一些, 是不精确的!


更详细的解释,可以看这篇  浮点型数据精度不准确的探究(参考了部分文章内容)



你可能感兴趣的:(java趣谈,java趣谈)