当前位置: 首页 > news >正文

一篇文章讲明白double、float丢失精度的问题

1.背景

1.1+0.1 = 1.2000000000000002

发现上面计算的值竟然和数学计算不一致

2. 问题

计算机是通过二进制计算的,如果我们在二进制的视角来看待上面问题,就很容易发现问题了。
例如:把「0.1」转成二进制的表示,然后还原成十进制,就能看出问题。

3. 0.1转二进制

小数转二进制,是通过除法进行的

0.1 = 1 ÷ 10

很简单,二进制就是要算

1 ÷ 1010

最终0.1转二进制是:0.0001100110011001100110011001100110011001100110011001101

在这里插入图片描述

4.转换成对应精度数值

float的精度为7~8位有效数字,7位肯定能保证,8位的值也存在。
double的精度为16~17位有效数字
所以
二进制展示

1.1+0.1 = 1.0011001100110011001100110011001100110011001100110100

十进制展示

1.1+0.1 = 1.2000000000000002

5.解决方案

针对浮点数丢失精度的问题,我们可以通过BigDecimal来解决
new BigDecimal(double val)
该方法是不可预测的,以0.1为例,你以为你传了一个double类型的0.1,最后会返回一个值为0.1的BigDecimal吗?不会的,原因在于,0.1无法用有限长度的二进制数表示,无法精确地表示为双精度数,最后的结果会是0.100000xxx。
new BigDecimal(String val)
该方法是完全可预测的,也就是说你传入一个字符串"0.1",他就会给你返回一个值完全为0,1的BigDecimal,官方也表示,能用这个构造函数就用这个构造函数叭。
BigDecimal.valueOf(double val)
第二种构造方式已经足够优秀,可你还是想传入一个double值,怎么办呢?官方其实提供给你思路并且实现了它,可以使用Double.toString(double val)先将double值转为String,再调用第二种构造方式,你可以直接使用静态方法:valueOf(double val)。

    总结:将double转为BigDecimal的时候,需要先把double转换为字符串,然后再作为BigDecimal(String val)构造函数的参数,这样才能避免出现精度问题。
http://www.lryc.cn/news/197541.html

相关文章:

  • Day 2 Qt
  • ArmSoM-W3之RK3588 MPP环境配置
  • 【C++ 拷贝构造函数详解】
  • [计算机提升] 用户和用户组
  • 开路、断路和短路区别
  • springBoot web开发自动配置和默认效果
  • 论文阅读:Efficient Point Cloud Segmentation with Geometry-Aware Sparse Networks
  • 1-k8s1.24-底座搭建-基于containerd
  • Java文件前后端上传下载工具类
  • 内燃机可变气门驱动研究进展
  • NEFU离散数学实验2-容斥原理
  • 解决Windows内存溢出/占满死机问题-PoolMon工具
  • 【ROS】ros-noetic和anaconda联合使用【教程】
  • 自动化RPA开发 --获取所有窗口信息和进程信息
  • 【Qt之布局】QVBoxLayout、QHBoxLayout、QGridLayout、QFormLayout介绍及使用
  • 【计算机毕业设计】python在线课程培训学习考试系统637r7-PyCharm项目
  • vue3后台管理系统之登录界面和业务的实现
  • GEE19:基于Landsat8的常见的植被指数逐年获取
  • Python【多分支实际应用的练习】
  • LeetCode 343. 整数拆分(动态规划)
  • C++对象模型(12)-- 构造函数语义学:构造函数
  • [23] T^3Bench: Benchmarking Current Progress in Text-to-3D Generation
  • linux系统如何定时关机
  • 构建高性能物联网数据平台:EMQX和CnosDB的完整教程
  • 【vim 学习系列文章 11 -- vim filetype | execute | runtimepath 详细介绍】
  • [备忘]WindowsLinux上查看端口被什么进程占用|端口占用
  • 函数的扩展
  • Cypress安装使用
  • 怎么把图片改成jpg格式?
  • [一带一路金砖 2023 CTF]Crypto