javascript 计算小数错误

javascript在计算浮点数的时候是不可靠的,这一点在实际开发中常常遇到,但是也常常忽略。

比如你在js中直接使用两个浮点数进行加减乘除,得到结果如下:
1.01 + 1.02 =2.0300000000000002
1.01 – 1.02 =-0.010000000000000009
0.000001 / 0.0001 =0.009999999999999998
0.012345 * 0.000001 =1.2344999999999999e-8

如果固定小数位进行四舍五入的话是没有问题的,但是如果直接用结果作为值返回就错误了。

所以我通常都是使用自定义的四则运算方法来在javascript中计算数字

代码如下:
 

这样计算的结果就对了:
1.01 + 1.02 =2.03
1.01 – 1.02 =-0.01
0.000001 / 0.0001 =0.01
0.012345 * 0.000001 =1.2345e-8

 

你可能感兴趣的:(JAVA)