QLExpress脚本语言技术讲解（9）-------高精度计算

hujw 的来信

您好，我在使用QLExpress的时候，发现运算结果精度不符合预期结果。期盼得到您的解答。先列下具体问题：   运行表达式：a=(b-c)/(d-c)   其中：   b=new BigDecimal("0.1694915254237288"); c=new BigDecimal("0.15384615384615385"); d=new BigDecimal("1");   得到结果：a=0.01849   而我期望的结果是：a=0.01848998459167949   后者是通过BigDecimal手动运算得到的，RoundingMode=HALF_UP   疑问1：为什么QLExpress的返回结果的精度不是遵照BigDecimal的api描述的那样，精度和输入参数的精度、加减乘除方式等相关联。 疑问2：要想实现期望的结果，或者实现运算结果精度可控，有什么方法？

 

 

回复如下：

你好，hjjw

谢谢你的咨询，我们也发现了一些源码的问题。

if(type == NumberType.NUMBER_TYPE_BIGDECIMAL) return new BigDecimal(op1.toString()).divide(new BigDecimal(op2.toString()));

应该改为：

if(type == NumberType.NUMBER_TYPE_BIGDECIMAL) return new BigDecimal(op1.toString()).divide(new BigDecimal(op2.toString()),BigDecimal.ROUND_HALF_UP);

 

单元测试：

@Test     publicvoid testBigDecimalComputer() throws Exception {        String expressString = "a=(b-c)/(d-c)";        ExpressRunner runner = new ExpressRunner(false,false);        DefaultContext  context = new DefaultContext();         context.put("b", new BigDecimal("0.1694915254237288"));        context.put("c", new BigDecimal("0.15384615384615385"));        context.put("d", new BigDecimal("1"));        Object r = runner.execute(expressString, context, null, false, false);        System.out.print("r="+r);     } 返回结果：r=0.01848998459167949

 

接下来是两个问题：

1、因为QLExpress作为脚本语言，必须保持简洁性：a=(b-c)/(d-c)，当然你可以可以按照标准java的写法使用bigdecimal

expressString = "a = (b.subtract(c)).divide(d.subtract(c), java.math.BigDecimal.ROUND_HALF_UP);"; 返回结果：r=0.01848998459167949

2、 参照问题1的回答

 

补充说明：其实QLExpress已经大量使用在后台结算系统，精度控制为RoundingMode=HALF_UP，scale=10

只要设置ExpressRunner的一个属性值即可。

 

/**     * 是否需要高精度计算     */     privatebooleanisPrecise = false;

@Test     publicvoid testBigDecimalComputer() throws Exception {        String expressString = "a=(b-c)/(d-c)";        ExpressRunner runner = new ExpressRunner(true,false);        DefaultContext  context = new DefaultContext();         context.put("b", new BigDecimal("0.1694915254237288"));        context.put("c", new BigDecimal("0.15384615384615385"));        context.put("d", new BigDecimal("1"));        Object r2 = runner.execute(expressString, context, null, false, false);        System.out.println("r="+r2);       } 返回结果：r=0.0184899846