震惊！计算机连0.3+0.6都算不对？浅谈IEEE754浮点数算数标准

>>> 0.3+0.6
0.8999999999999999
>>> 1-0.9
0.09999999999999998
>>> 0.1+0.1+0.1
0.30000000000000004

　　最初碰到这个问题是在写js的金额计算中遇到的，始终找不到是什么原因造成的，于是把锅甩给了JS：垃圾js浮点运算有bug！然后百度拷贝了一个解决浮点

运算的函数才解决了问题。

　　直到最近才发现，原来不仅js会“算不清”0.3+0.6，C#,JAVA,Python等很多语言都绕不过这个问题！

　　原来这是因为IEEE754浮点数算数标准，这个算数标准不使用小数点，而是使用分数和指数来表示小数，例如0.5会用1/2表示，0.75用1/2+1/4表示，0.875用1/2+1/4+1/8表示。然而有的小数无法使用有限的分数来表示，如0.1，使用1/16+1/32+1/256+1/512+...+1/8192+...表示，因此才造成了浮点数计算的误差。

　　怎么解决呢？C#,JAVA,Python都使用Decimal计算来替代浮点数的计算，尤其是涉及钱的计算！JS呢？百度一个处理函数调一下就ok啦~

　　这里附上js处理浮点预算的函数：

function add(a, b) {
    var c, d, e;
    try {
        c = a.toString().split(".")[1].length;
    } catch (f) {
        c = 0;
    }
    try {
        d = b.toString().split(".")[1].length;
    } catch (f) {
        d = 0;
    }
    return e = Math.pow(10, Math.max(c, d)), (mul(a, e) + mul(b, e)) / e;
}
function sub(a, b) {
    var c, d, e;
    try {
        c = a.toString().split(".")[1].length;
    } catch (f) {
        c = 0;
    }
    try {
        d = b.toString().split(".")[1].length;
    } catch (f) {
        d = 0;
    }
    return e = Math.pow(10, Math.max(c, d)), (mul(a, e) - mul(b, e)) / e;
}
function mul(a, b) {
    var c = 0,
        d = a.toString(),
        e = b.toString();
    try {
        c += d.split(".")[1].length;
    } catch (f) {}
    try {
        c += e.split(".")[1].length;
    } catch (f) {}
    return Number(d.replace(".", "")) * Number(e.replace(".", "")) / Math.pow(10, c);
}
function div(a, b) {
    var c, d, e = 0,
        f = 0;
    try {
        e = a.toString().split(".")[1].length;
    } catch (g) {}
    try {
        f = b.toString().split(".")[1].length;
    } catch (g) {}
    return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), mul(c / d, Math.pow(10, f - e));
}

 

转载于:https://www.cnblogs.com/gundam00/p/10774251.html