当前位置: 首页 > news >正文

python的decimal或者叫Decimal,BigDecimal

前言

	在python中进行小数计算时,很容易发生精度错误问题!!!!一定要注意!!!或者说,只要进行小数的运算都要用decimal。如:银企对账;工程计算等等在python有叫decimal的第三方库。在java中叫BigDecimal。万万不可混肴,学
术是要严谨的,实事求是的。下面演示一下错误的小数计算和使用decimal进行正确计算的代码。

错误示范

a = 0
for i in range(100000):a = a + 1.33print("不准确",a)

在这里插入图片描述

使用decimal的正确示范


from decimal import Decimal, getcontext
print(getcontext().prec)  # 计算精度,默认是28
getcontext().prec = 100  # 可修改
a = Decimal("0")for i in range(100000):a = a + Decimal("1.33")
print("准确", a)

在这里插入图片描述

注意

	一定要注意,使用字符串的小数当作参数
http://www.lryc.cn/news/105028.html

相关文章:

  • Mac环境变量问题
  • Shell脚本学习-Web服务监控
  • 【ChatGPT】基于WSL+Docker的ChatGPT PLUS共享服务部署
  • 【论文阅读24】Better Few-Shot Text Classification with Pre-trained Language Model
  • 119、Spring容器启动流程是怎样的(配有Spring启动完整流程图)
  • 微信公众号开发学习
  • 【LeetCode】221.最大正方形
  • 生成模型相关算法:EM算法步骤和公式推导
  • Compose手势
  • 【雕爷学编程】Arduino动手做(177)---ESP-32 掌控板2
  • Ubuntu-文件和目录相关命令
  • 显式接口实现(C# 编程指南)
  • element-ui 图片上传 及 quillEditor富文本(图片视频上传)
  • 前端技术Vue学习笔记--002
  • 【RabbitMQ(day4)】SpringBoot整合RabbitMQ与MQ应用场景说明
  • 想了解好用的翻译pdf的软件吗?
  • docker安装nginx并配置SSL
  • 【LeetCode 算法】Reorder List 重排链表
  • MQ面试题3
  • 【Linux命令200例】patch 用于将补丁文件应用到源码中
  • 一起来学算法(邻接矩阵)
  • hadoop与HDFS交互
  • MYSQL 分区如何指定不同存储路径(多块磁盘)
  • 安全加固服务器
  • Linux 命令学习:
  • 牛客网Verilog刷题——VL54
  • 学习系统编程No.34【线程同步之信号量】
  • SolidUI社区-Snakemq 通信源码分析
  • 【大数据之Flume】四、Flume进阶之复制和多路复用、负载均衡和故障转移、聚合案例
  • 前端学习--vue2--插槽