js 双精度浮点数

一、怎样将一个数据转成浮点数  https://www.zhihu.com/question/21711083

二、js 的 Number

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。


三、造成哪些问题?

1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3

2、整数最大范围

整数是按最大54位来算最大(253 - 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 - 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。


四、解决办法

开源的库、bigInt、

0.1+0.2-0.3     // 5.551115123125783e-17

5.551115123125783e-17.toFixed(20)      //   '0.00000000000000005551'

5.551115123125783e-17



重新整理

https://zhuanlan.zhihu.com/p/73699947

回顾一个基础问题,js 中的精度丢失问题。

一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。 

二、双精度浮点一共有 64位,64位比特又可分为三个部分:

符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数

指数位E:中间的 11 位存储指数(exponent),用来表示次方数

尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零

三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。

四、常见的丢失场景,

 0.1 + 0.2 === 0.30000000000000004

parseInt(0.58*100,10)=57

(1.335).toFixed(2)

四、解决办法

math.js

bignumber.js

等库以及 es6 针对整数精度丢失的新数据类型BigInt 

你可能感兴趣的:(js 双精度浮点数)