JS精度缺失问题

一、精度丢失的原因

       在处理一些极端情况下的复杂数值计算时,我们可能会遇到这样的情况——运算结果丢失精度。那么,为什么会出现这样的情况?该如何避免运算精度丢失呢?在JavaScript中,运算精度丢失的一个主要原因是浮点数的不精确性。JavaScript中的数字类型只有一种,即Number类型,采用64位浮点数表示法,能够表示的最大值为1.7976931348623157e+308,最小值为5e-324,但在进行小数的计算过程中,浮点数的二进制表示往往无法精确表示,就会产生精度的丢失。来看下面这个例子:
代码:

运行结果:

因为二进制无法精确表示0.1和0.2,因此它们相加的结果在JavaScript中是不精确的,出现了小数点后面多余的数字。

二、如何避免运算精度丢失

1、使用整数进行计算
在进行复杂运算时,我们可以将小数转化为整数进行计算,最后再将结果转化为小数。例如,下面这段代码可以将0.1和0.2分别乘以10,再将结果相加,最后将结果除以10:

2、使用toFixed()函数
JavaScript中的Number类型提供了一个toFixed()方法,该方法可以将一个数字转化为一个指定精度的小数(括号中放入的是保留小数位数)。例如,下面这段代码中,toFixed()函数将保留两位小数,最后得到一个精度为0.30的浮点数。

3、第三方库

这里介绍一个第三方库decimal.js,项目里面可以进行二次封装使用。

你可能感兴趣的:(javascript,开发语言)