python之decimal模块

在python中小数相加可能会计算出结果不对,如下,为什么呢?,那就是由于科学计算精度问题

在这里插入图片描述

我们在python中如果需要处理这个问题的话就需要用到decimal模块了

python之decimal模块_第1张图片
但这个地方有个坑,那就是Decimal(),括号里面必须是字符串,假如我们需要通过Decimal计算的话就需要将数值转换成字符串或者直接加上引号

还可以通过decimal里面的getcontext().prec 设定有效数字,如下

python之decimal模块_第2张图片

quantize 设置小数位数

python之decimal模块_第3张图片

你可能感兴趣的:(python,python)