js中浮点计算错误原因及解决办法

今日刚好在看《JavaScript高级程序设计》,看到浮点数一节,说到了浮点计算错误的问题,就记录一下

经典的好家伙(典型的错误):

0.1+0.2=0.30000000000000004
0.3+0.03=0.32999999999999996
172.83/100=1.7283000000000002

解决方法

借用大佬的方法(原理是将浮点数变为整数,之所以用这位大佬,是因为他包含了对超大值的判断 即56.3e-12)
https://blog.csdn.net/qq_32281471/article/details/102656195

原因

错误原因:因为使用了IEEE754数值,这种错误并非js独有,其他使用相同格式的语言也有这个问题(如c,java,python等)

你可能感兴趣的:(js中浮点计算错误原因及解决办法)