Mysql Double查询进度丢失,在java程序里面解决。

问题

在mysql 中,为了大胆使用double,减少对积分账号比率问题描述,但是又多出了浮点的问题。


从图中可以看出,保存在库里的值也开始丢失精度

首先得明白一个问题就是,计算机如何保持小数点的问题。

十进制小数如何转化为二进制数

           算法是乘以2直到没有了小数为止。举个例子,0.9表示成二进制数

                     0.9*2=1.8   取整数部分 1

                     0.8(1.8的小数部分)*2=1.6    取整数部分 1

                     0.6*2=1.2   取整数部分 1

                     0.2*2=0.4   取整数部分 0

                     0.4*2=0.8   取整数部分 0

                     0.8*2=1.6 取整数部分 1

                     0.6*2=1.2   取整数部分 0

                              .........      0.9二进制表示为(从上往下): 1100100100100......

注意:上面的计算过程循环了,也就是说*2永远不可能消灭小数部分,这样算法将无限下去。很显然,小数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出1/3呢?同样二进制系统也无法准确表示1/10。这也就解释了为什么浮点型减法出现了"减不尽"的精度丢失问题。

结合问题发现double 类型保持13位小数比较安全

在java代码加入对小数数量问题进行处理
private static  int getNumberDecimalDigits(Double balance) {
        int decimalDigits = 0;
        String balanceStr = Double.toString(balance);
        int indexOf = balanceStr.indexOf(".");
        if(indexOf > 0){
            decimalDigits = balanceStr.length() - 1 - indexOf;
        }
        return decimalDigits;
    }

    public static void main(String[] args){

        Double balance = 1.0499999999999925;
        int decimalDigits = getNumberDecimalDigits(balance);
        System.out.println(decimalDigits);

        if(decimalDigits >= 13){
            BigDecimal eachNumberDecimal = new BigDecimal(balance);
            balance = eachNumberDecimal.setScale(13, BigDecimal.ROUND_UP).doubleValue();
        }
        System.out.println(balance);
    }

测试结果

16
1.05

参考

https://www.cnblogs.com/yewsky/articles/1864934.html

你可能感兴趣的:(Mysql Double查询进度丢失,在java程序里面解决。)