Python3中decimal处理计算精度问题示例

#!/usr/bin/python3
# coding:utf-8

import decimal
from decimal import Decimal, getcontext

class damo1(object):
    """
    取整问题：
    
    ROUND_CEILING  总是趋向无穷大向上取整

　　ROUND_DOWN　总是趋向0取整

　　ROUND_FLOOR  总是趋向负无穷大向下取整

　　ROUND_HALF_DOWN　如果最后一个有效数字大于或等于5则朝0反方向取整；否则，趋向0取整

　　ROUND_HALF_EVEN　类似于ROUND_HALF_DOWN，不过，如果最后一个有效数字值为5，则会检查前一位。偶数值会导致结果向下取整，奇数值导致结果向上取整

　　ROUND_HALF_UP  类似于ROUND_HALF_DOWN，不过如果最后一位有效数字为5，值会朝0的反方向取整

　　ROUND_UP　朝0的反方向取整

　　ROUND_05UP　如果最后一位是0或5，则朝0的反方向取整；否则向0取整
    """

    # 1.常规计算
    getcontext().prec = 9
    r1 = Decimal(1) / Decimal(3)
    print("r1 ", r1)

    # 2.但是getcontext().prec会包含小数点前面的所有长度，当前面长度有变化时并不能固定控制小数点后的位数
    r2 = Decimal(10) / Decimal(3)
    print("r2 ", r2)

    # 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(Decimal('0.00000000'))，注意不能超过getcontext().prec的位数
    r3 = Decimal(1) / Decimal(3)
    print("r3 ", r3.quantize(Decimal('0.00000000')))
    r4 = Decimal(10) / Decimal(3)
    print("r4 ", r4.quantize(Decimal('0.00000000')))
    r5 = Decimal(10) / Decimal(str(1.5))
    print("r5 ", r5.quantize(Decimal('0.00000000')))

    # 4.向上取整
    getcontext().rounding = getattr(decimal, 'ROUND_CEILING')  # 总是趋向无穷大向上取整
    r6 = Decimal(10) / Decimal(str(1.5))
    print("r6 ", r6.quantize(Decimal('0.00000000')))
    r7 = Decimal(10) / Decimal(3)
    print("r7 ", r7.quantize(Decimal('0.00000000')))

    # 5.向下取整
    getcontext().rounding = getattr(decimal, 'ROUND_FLOOR')  # 总是趋向无穷大向下取整
    r8 = Decimal(10) / Decimal(str(1.5))
    print("r8 ", r8.quantize(Decimal('0.00000000')))
    r9 = Decimal(10) / Decimal(3)
    print("r9 ", r9.quantize(Decimal('0.00000000')))



if __name__ == '__main__':
    damo1()

 

结果：

r1  0.333333333
r2  3.33333333
r3  0.33333333
r4  3.33333333
r5  6.66666667
r6  6.66666667
r7  3.33333334
r8  6.66666666
r9  3.33333333