为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9 不等于 95.1 ?

START

  • 番茄又来写点啥了。
  • 最近遇到一个很有趣的bug,在这里记录一下。

业务场景

  • 有两个金额A,B,我都做了保留两位小数的处理
  • 还有一个金额C,等于金额A的金额B的
  • 突然测试给我讲,番茄,你这金额C没有保留两位小数哦。
  • 查看了相关的bug,得出来的金额C展示的是95.10000000000001

到这里我第一反应,确实金额C没有做保留两位小数的处理

但是在我排查代码逻辑的时候,突然想到,明明金额A和金额B我都做了保留两位小数的处理呀。

随即,在浏览器中打印了一下,发现了一个有趣的事情。

14.2+80.9 = 95.10000000000001

为什么 0.1+0.2 不等于 0.3 ; 14.2+80.9 不等于 95.1 ?_第1张图片

问题分析

看到浏览器这里打印,14.2+80.9 = 95.10000000000001 。我就想到我们熟知的0.1+0.2 = 0.30000000000000004

JS红宝书相关说明呢:

  • 浮点数值的精度最高是17位小数,但是在算数计算式其进度远不如整数。

  • 关于浮点数值计算会产生误差的问题,有一点需要明确。这是基于IEEE754数值的浮点计算的通病。

    JS;JAVA;PYTHON 都会出现:0.1+0.2 = 0.30000000000000004

根本原因是什么呢:

首先,我们要知道,计算机存储数据呢,是以二进制0/1存储的,所以我们把0.10.2(十进制的)转换为二进制的:

0.1 => 0.0001 1001 1001 1001…(1001无限循环)
0.2 => 0.0011 0011 0011 0011…(0011无限循环)

但是我们计算机的硬件存储的位数是有限制的不可能无限循环下去,一般双精度浮点数总共占用64位,其中最多53位为有效精度数字(包括符号位),所以存储时只能存储:

0.1=>0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001
0.2=>0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011

所以

0.1+0.2=>

0.0100 1100 1100 1100 1100 1100 11001 100 1100 1100 1100 1100 1100

转换为十进制就是:0.30000000000000004

解决方案

遇到这种情况怎么处理呢。

  1. Math.round() 方法四舍五入或者toFixed() 方法保留指定的位数(对精度要求不高,可用这种方法)

  2. 将小数转为整数再做计算。

    2.1 这里可以配合Math.pow(10, n)放大10的n次方;

    2.2 小数点的位数可以这样获取:

    // num 我们需要计算的数字
    // l 小数点的位数
      try {
        l = num.toString().split('.')[1].length
      } catch (e) {
        l = 0
      }
    

END

  • 问题还是小问题,但是依旧很有意思,老生常谈。
  • 记录当下,ღ( ´・ᴗ・` )

你可能感兴趣的:(javascript,javascript)