double精度丢失问题

1.原理
  • 二进制的数无法表现出所有十进制的数,如十进制的0.1,在二进制中就是无限循环小数
2.例子

在这里插入图片描述

3.解决方案

<1>将乘数的小数位*10到消除然后参与计算
在这里插入图片描述
<2>使用BigDecimal类

public class test19 {
    public static void main(String[] args) {
        double d = 538.8;
        // 推荐使用string构造
        BigDecimal a1 = new BigDecimal(Double.toString(d));
        BigDecimal b1 = new BigDecimal(Double.toString(100));
        BigDecimal result = a1.multiply(b1);// 相乘结果
        System.out.println(result);
        BigDecimal one = new BigDecimal("7");
        double a = result.divide(one, 1, BigDecimal.ROUND_HALF_UP).doubleValue();//四舍五入保留1位数
        System.out.println(a);
    }
}

------------------------------------------------------------------
53880.00
7697.1
4.扩展(来源)
  • double型数据的有效位数是指它能表示的最大的十进制数字的位数。由于double型数据是用64位二进制来存储的,其中52位用来存储尾数,所以它能表示的最大的二进制数字是2^{52+1} = 9007199254740992。这个数字在十进制中有16位,所以double型数据的有效位数为15/16。第16位不一定有效,因为可能会有四舍五入或精度损失的问题。
  • 不同的例子可以是:- 1234567890123456.0和1234567890123457.0都是double型数据,但它们之间相差1,超过了第16位,所以不能被区分。- 3.141592653589793和3.141592653589794都是double型数据,但它们之间相差0.000000000000001,在第16位上有差异,所以可以被区分。

你可能感兴趣的:(随笔,java,开发语言)