【并发笔记】解释 BigDecimal 精度的坑

看到这篇文章的,想必是遇到同样的坑,那么请慢慢的看下去

问题重现

BigDecimal b1 = new BigDecimal(0.1);
BigDecimal b2 = new BigDecimal(0.5);
System.out.println("b1="+b1+"\nb2="+b2);

---------------结果----------------------
b1=0.1000000000000000055511151231257827021181583404541015625
b2=0.5

为什么 b1 的结果是后面有一大串数字,而 b2 却是正确的呢?

分析

1. effective java 第 48 条解释:

如果需要精确的答案,请避免使用 float 和 double float 和 double 类型主要是为了科学计算和工程计算而设计,他们执行二进制浮点运算,这是为了在广泛的数值范围上提供较为精确的快速近和计算而精心设计的,然而,他们并没有提供完全精确的结果,所以不应该被用于精确的结果的场合

2. 个人分析:

从 effective java 中,明确的说了,float 和 double 是不精确的运算,他们只是为了广泛的运算保证有一个相近的值为什么要使用二进制计算 double,float 和 double 他们执行的二进制浮点运算,因为使用二进制计算效率要高,适用于日常运算,而二进制也能给我提供一个相对准确的值为什么二进制运算不能提供准确的值,其实不能说二进制不能提供准确的值,而是二进制不能准确的表示一个小数,就像十进制不能准确的表示 1/3,1/6 等。为什么十进制不能表示 1/3 ,因为 1/3=0.333333333333333。。。。。,我们始终不能说清楚这后面有多少个 3,所以说十进制表示不了 1/3.为什么二进制不能表示一个小数,举例 0.1 换成二进制,请看下面的运算

0.1 * 2 = 0.2     -----0
0.2 * 2 = 0.4     -----0
0.4 * 2 = 0.8     -----0
0.8 * 2 = 1.6     -----1
0.6 * 2 = 1.2     -----1
0.2 * 2 = 0.4     -----0
.
.
.
//你懂的 0.0001100110011001100110011001100110011001100110011001101

所以二进制表示不了 0.1,但是有的小数却可以表示,就像十进制能表示 1/2 一样,请看 0.5

0.5 * 2 = 1     -----1
//所以0.5用二进制表示就是0.1

这也就解释了,我们遇到的坑,new BigDecimal(0.1); 返回一个错误的值,而 new BigDecimal(0.5); 返回一个准确的值,从本质上讲 0.1,只要他的类型是 double 或者 float,它本身就一个不准确的值,这其实跟 BigDecimal 无关。我们使用 new BigDecimal(Double d); 这个构造时,假如入参是 0.1,这其中会将 0.1 转成 Double,而此时 0.1 的值就已经不准确了,比如以下代码

System.out.println(0.5*3);
System.out.println(0.1*3);
//这两句代码,可能很清楚说明二进制不能表示0.1,可以表示0.5

如果你还没清楚这个坑的来历,请执行这两句代码,看看结果,带着结果重新阅读一遍我的分析

解决办法

既然知道了坑的来历,我们就只要避免这个坑就行了,这个坑说到底是 double 或者 float 造成的,那么我们在构造 BigDecimal 的对象时,不用这两个构造方法就行了,如:

//使用String构造
BigDecimal b1 = new BigDecimal("0.1");
//或者是:
BigDecimal b1 = BigDecimal.valueOf(0.1);
//点开valueOf的源码,可以看到在源码中也是用new BigDecimal(String);返回一个BigDecimal对象的
//源码如下:
public static BigDecimal valueOf(double val) {
 // Reminder: a zero double returns '0.0', so we cannot fastpath
 // to use the constant ZERO.  This might be important enough to
 // justify a factory approach, a cache, or a few private
 // constants, later.
 return new BigDecimal(Double.toString(val));
}

来源链接:

https://blog.csdn.net/gege87417376/article/details/79550749

【并发笔记】解释 BigDecimal 精度的坑_第1张图片

你可能感兴趣的:(java,c++,算法,编程语言,python)