后浪云Python教程:python Decimal解决计算问题

后浪云Python教程:python Decimal解决计算问题插图

1、当python中的浮点类型计算出现不准确结果时,decimal用于纠正。经验证,Decimal不直接处理浮点类型数据,而是将浮点类型数据转换成字符串数据。

2、如果使用金额或要求特别准确,可以使用decimal。

实例

from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 结果为Decimal('0.142857'),六个有效数字

以上就是python Decimal解决计算问题,希望对大家有所帮助。更多Python学习指路:后浪云python教程

本文教程操作环境:windows7系统、Python 3.9.1,DELL G3电脑。

THE END