小谈Number.toFixed(num) 问题一二

关于 Number.toFixed(num)的问题

场景描述
在项目中一个计算百分比的地方,用到如下计算

proportion[i]= (data[i].defnum/countNum).toFixed(4) * 100;

结果发现计算结果却不是预期想要的 — > result : 24.279999999999998 类似这种结果

解决

  1. 在公式之前进行浮点确定(允许误差范围内).在使用toFixed保留位数 ; 如
proportion[i]= (100 * data[i].defnum/countNum).toFixed(2) ;

原因

其实在改计算中,toFixed方面并不是导致问题的关键,原因出在与计算机对浮点问题的描述,比如说你在浏览器控制台输入算式 如:
小谈Number.toFixed(num) 问题一二_第1张图片
明显发现有些结果并不能精确表示,也就是并不是我们预期想要的。

所以又有了为什么计算机对某些浮点数不能表述又是什么意思?
这就得归根于咱计算机存储数据是用二进制存储(不要再问我二进制是怎么存的,你就这么记着吧~)

精度丢失在哪里?

小谈Number.toFixed(num) 问题一二_第2张图片
在浏览器中输入了一波数字 ,看起来好像并没有什么偶数啊 奇数什么的可以精确表示的规律,那到底是为啥呢?
本人猜测,可能与计算机数字转换有关,也可能精度丢失于此!

你可能感兴趣的:(javaScript)