关于精度损失的问题

最近在报表统计信息时候,统计的字段值都是double类型的小数,使用sum累计求和的时候,意外出现很多位的小数

关于精度损失的问题_第1张图片

解决方法:将字段值转为指定精度的decimal数值,在进行sum求和,例如cast (字段 as decimal(18,2))可以指定精度

关于精度损失的问题_第2张图片

你可能感兴趣的:(日常问题积累)