当前位置: 首页 > news >正文

double类型 精度丢失的问题

前言

精度丢失的问题是在其他计算机语言中也都会出现,float和double类型的数据在执行二进制浮点运算的时候,并没有提供完全精确的结果。产生误差不在于数的大小,而是因为数的精度。

一、double进行运算时,经常出现精度丢失

0.1+0.2使用计算器计算是0.3,代码里却是0.30000000000000004

二、使用Java代码运行

 为什么会这样呢?这就是精度丢失问题造成的。

因为计算机只能识别0和1,即二进制,无论哪种编程语言,都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示, 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。

针对十进制,1除以3是除不尽的。很好理解,因为我们一直接触的就是十进制,等于0.333333… 但是,二进制系统中无法精确地表示分数 1/10。

我们看下面的示例代码:

十进制转二进制(每次将小数部分乘2,取出整数部分,如果小数部分为0,就可以停止这个过程):十进制0.1计算如下:

public class Test5 {public static void main(String[] args) {//十进制 转二进制double a = 0.1 * 2;//0.2double b = 0.2 * 2;//0.4double c = 0.4 * 2;//0.8double d = 0.8 * 2;//1.6double e = 0.6 * 2;//1.2double f = 0.2 * 2;//0.4double g = 0.4 * 2;//0.8double h = 0.8 * 2;//1.6System.out.println(a+","+b+","+c+","+d);System.out.println(e+","+f+","+g+","+h);//我们发现,上面的过程已经开始循环,小数部分永远不能为0}
}

当某个业务场景对double数据的精度要求非常高时,就必须采取某种手段来处理这个问题,这也是BigDecimal为什么会被广泛应用于金额支付场景中的原因。

BigDecimal类位于java.math包下,用于对超过16位有效位的数进行精确的运算。一般来说,double类型的变量可以处理16位有效数,但实际应用中,如果超过16位,就需要BigDecimal类来操作。

三、BigDecimal类常用的有参构造器

new BigDecimal(String val)

    /* @param val String representation of {@code BigDecimal}.** @throws NumberFormatException if {@code val} is not a valid*         representation of a {@code BigDecimal}.*/public BigDecimal(String val) {this(val.toCharArray(), 0, val.length());}

new BigDecimal(double val) 

/* @param val {@code double} value to be converted to*        {@code BigDecimal}.* @throws NumberFormatException if {@code val} is infinite or NaN.*/public BigDecimal(double val) {this(val,MathContext.UNLIMITED);}

BigDecimal.valueOf(double val) 

    /* @param  val {@code double} to convert to a {@code BigDecimal}.* @return a {@code BigDecimal} whose value is equal to or approximately*         equal to the value of {@code val}.* @throws NumberFormatException if {@code val} is infinite or NaN.* @since  1.5*/public static BigDecimal valueOf(double val) {// Reminder: a zero double returns '0.0', so we cannot fastpath// to use the constant ZERO.  This might be important enough to// justify a factory approach, a cache, or a few private// constants, later.return new BigDecimal(Double.toString(val));}

四、将double转为BigDecimal的时候,需要先把double转换为字符串,然后再作为BigDecimal(String val)构造函数的参数,这样才能避免出现精度问题。

        double d1 = 0.1;double d2 = 0.2;double d3 = d1 + d2; //可能精度丢失问题double d4 = d1 * d2; //可能精度丢失问题System.out.println("d1 + d2 = "+d3);System.out.println("d1 * d2 = "+d4);/*** BigDecimal类位于java.math包下,用于对超过16位有效位的数进行精确的运算。* 一般来说,double类型的变量可以处理16位有效数,* 但实际应用中,如果超过16位,就需要BigDecimal类来操作*/BigDecimal bigDecimal = BigDecimal.valueOf(d1);//也可以使用BigDecimal p1 = new BigDecimal(Double.toString(d1));//推荐使用BigDecimal p2 = new BigDecimal(Double.toString(d2));
//        BigDecimal add = p1.add(p2);double v = p1.add(p2).doubleValue();double v1 = p1.multiply(p2).doubleValue();System.out.println("-------"+v);//0.3System.out.println("-------"+v1);//0.02

总结如下:

Java中的double类型确实存在精度丢失的问题,‌这主要源于其内部表示和运算规则。‌以下是导致double类型精度丢失的主要原因:‌

  1. 范围限制:‌double类型有其能表示的最大和最小值范围。‌当数值超出这个范围时,‌转换会导致精度丢失或发生溢出。‌
  2. 小数位数限制:‌double类型有限的位数可能无法完全表示非常长的小数部分,‌导致舍入错误或精度丢失。‌
  3. 十进制数的表示问题:‌由于double是基于二进制的浮点数表示,‌某些十进制数可能无法准确表示,‌这也会导致精度丢失。‌例如,‌0.1这个十进制数在二进制浮点表示中是一个无限循环小数,‌转换为double类型时会有精度损失。‌
  4. 运算过程中的精度丢失:‌在进行算术运算时,‌如果参与运算的数的精度高于double类型的精度,‌则运算过程中可能会出现舍入错误,‌导致最终结果的精度丢失。‌

为了避免这些问题,‌特别是在金融或需要高精度计算的领域,‌建议使用BigDecimal类进行精确运算。‌BigDecimal类位于java.math包下,‌用于对超过16位有效位的数进行精确的运算。‌将double转换为BigDecimal时,‌需要先把double转换为字符串,‌然后再作为BigDecimal构造函数的参数,‌这样可以避免出现精度问题。‌此外,‌连续的浮点数运算会累积精度误差,‌因此在进行大量计算或对精度有严格要求的情况下,‌使用BigDecimal类进行计算是更为合适的选择。

http://www.lryc.cn/news/418226.html

相关文章:

  • C++ 重要特性探究
  • c++_游戏_狼人杀
  • MySQL——数据类型、索引的建立、数据的约束
  • 常见框架漏洞详解③!!
  • 大数据基础知识
  • SQL Server 的透明数据加密
  • Windows图形界面(GUI)-MFC-C/C++ - 列表视图(List Control) - CListCtrl
  • 一机两用的简单介绍
  • uniapp离线打包热更新失败-AndroidStudio离线打包apk后无法下载打开-热更新失败-plus.runtime.install失败
  • 深植根基、蓬勃向上 | openKylin 2.0正式发布!
  • 【Material-UI】按钮组:尺寸与颜色详解
  • app抓包 burp配置
  • 图像与像素:利用ImageJ分析荧光显微镜图像|QuPath基础教程1|24-08-08
  • Prompt Fuzzer:用于增强 GenAI 应用程序的开源工具
  • Vision Pro使用GLFT 加载模型shader错误解决办法
  • Netty技术全解析:MessageToMessageCodec类深度解析
  • Three 【3D车模换肤】
  • 语言模型简介和Ngram模型(1)
  • MessageBox弹框替代系统自带的alert、confirm -- 高仿ElementUI MessageBox
  • 数据结构一排序算法
  • [Leetcode 215][Medium]-数组中的第K个最大元素-快排/小根堆/堆排序
  • 【栈和队列】常见面试题
  • 关于float浮点值二进制存储和运算精度损失的话题
  • python爬虫学习记录-请求模块urllib3
  • 谷粒商城实战笔记-133~135-城业务-商品上架-远程上架接口
  • 【React】详解 App.js 文件
  • 【ML】self-supervised Learning for speech and Image
  • 青岛实训day24(8/8)
  • *算法训练(leetcode)第四十五天 | 101. 孤岛的总面积、102. 沉没孤岛、103. 水流问题、104. 建造最大岛屿
  • 设计模式 由浅入深(待完结)