siebel意外的数字精度问题

在用eScript代码进行数字运算时,会遇到如下情形,意外的数字精度问题:

10.22  - 10      = 0.220000000000001

100.22 - 100     = 0.219999999999999
100.22 - 100.00  = 0.22

200.22 - 199.99  = 0.23

为了规避,只好只用toFixed函数指定数字精度,这样保证计算结果在一定范围内是正确的。

var profits=2487.8235
var profits3 = profits.toFixed(3)  //returns 2487.824 
var profits2 = profits.toFixed(2)  //returns 2487.82
var profits7 = profits.toFixed(7)  //returns 2487.8235000
var profits0 = profits.toFixed(0)  //returns 2488

你可能感兴趣的:(siebel意外的数字精度问题)