当前位置: 首页 > news >正文

Python decimal模块的使用

Python decimal 模块

  • Python中的浮点数默认精度是15位。

  • Decimal对象可以表示任意精度的浮点数。

getcontext函数

  • 用于获取当前的context环境,可以设置精度、舍入模式等参数。

#在context中设置小数的精度
decimal.getcontext().prec = 100

  • 通过字符串初始化Decimal类型的变量

  • 因为通过浮点数初始化Decimal类型的变量会导致精度的丢失

# 浮点数的初始化
a = decimal.Decimal('3.14159265')

setcontext函数

  • decimal.ROUND_HALF_UP 对浮点数四舍五入

import decimal
x = decimal.Decimal('1.23456789')
context = decimal.Context(prec=4,rounding=decimal.ROUND_HALF_UP)
decimal.setcontext(context)
y1 = x
y2 = x*2 
print("y1",y1)
print("y2",y2)>>>y1 1.23456789
>>>y2 2.469

localcontext函数

  • 用于创建一个新的context环境,可以在该环境中设置精度、舍入模式等参数,不会影响全局的context环境。

import decimal
x = decimal.Decimal('1.23456789')
context0 = decimal.Context(prec=9,rounding=decimal.ROUND_HALF_UP)
decimal.setcontext(context0)
y1 = x * 2
print("y1",y1)with decimal.localcontext() as context:context.prec = 4context.rounding = decimal.ROUND_HALF_UPy2 = x * 2print("y2",y2)>>>y1 2.46913578
>>>y2 2.469
>>>
>>>

http://www.lryc.cn/news/38245.html

相关文章:

  • pycharm常用快捷键
  • useCallback 与 useMemo 的区别 作用
  • Mybatis的学习
  • PyTorch深度学习实战 | 计算机视觉
  • 力扣(LeetCode)436. 寻找右区间(2023.03.10)
  • 已解决Servlet中Request请求参数中文乱码的问题
  • 【flask】URL和视图映射
  • Python实现性能测试(locust)
  • 【数论】试除法判断质数,分解质因数,筛质数
  • 【C++】红黑树
  • 【剧前爆米花--爪哇岛寻宝】进程的调度以及并发和并行,以及PCB中属性的详解。
  • 网络的瓶颈效应
  • 【C++进阶】四、红黑树(三)
  • Spring——AOP切入点表达式和AOP通知类型
  • Hadoop学习:Yarn
  • Spring Data JPA
  • java List报错Method threw ‘java.lang.UnsupportedOperationException‘ exception. 解决
  • 数据结构-用栈实现队列
  • 第十四章 从 Windows 客户端控制 IRIS
  • 数据结构---双链表
  • Windows 环境安装Scala详情
  • C++ Qt自建网页浏览器
  • Flink从入门到精通系列(四)
  • Nginx 配置实例-反向代理案例一
  • 为什么北欧的顶级程序员数量远超中国?
  • vuex getters的作用和使用(求平均年龄),以及辅助函数mapGetters
  • 20230311给Ubuntu18.04下的GTX1080M安装驱动
  • 2023腾讯面试真题:
  • 23种设计模式-建造者模式(Android应用场景介绍)
  • English Learning - L2 语音作业打卡 双元音 [ʊə] [eə] Day17 2023.3.9 周四