当前位置: 首页 > news >正文

Integer溢出问题

0. 背景

在刷 LeetCode 时,代码的执行结果与预期出现了偏差,原因是 Int 值超过了允许范围 [ − 2 31 , 2 31 − 1 ] [-2^{31},2^{31}-1 ] [231,2311]。工作中从来没有遇到过这种情况,之前的认知是如果 Int 中存储的值超过了允许范围也许代码会报错,又或者会自动截断。但是真实的结果却与预期的不同,Java 不但没有报错,也没有对 Int 值进行截断,而是 Int 值直接从一个边界跳转到另一个边界。

//Int最大值 + 1 = Int最小值
Integer.MAX_VALUE + 1 = Integer.MIN_VALUE;
//Int最小值 -1 = Int最大值
Integer.MIN_VALUE - 1 = Integer.MAX_VALUE;

同时出现的另一个问题是,对 Integer.MIN_VALUE 使用 Math.abs 方法会失效,取出的绝对值居然还是负数,数值没有发生变化。

1. Integer 如何处理溢出的数据

Integer 的运算并不是使用十进制进行的,而是使用二进制补码进行的。 Integer 在 Java 中的定义是 4 个字节,1 个字节是 8 位,所以上限是 32 位( [ − 2 31 , 2 31 − 1 ] [-2^{31},2^{31}-1 ] [231,2311])。当 Integer 在运算过程中超出了 32 位,计算机会对改变量进行截断,将超出的部分(新增的最高位)进行舍弃。

//Int 最小值 -1 = Int 最大值
Integer. MIN_VALUE - 1 = Integer. MAX_VALUE;

根据 Integer 对溢出情况的处理,对上述代码进行验算,验算过程如下,-1 相当于加上 -1。补码运算时符号位也是参与运算的。在这里插入图片描述

2. 如何避免程序悄悄的发生 Integer 溢出

在程序运行中最可怕的不是程序报错,而是没有任何异常的情况下得到与预期不相符的结果。

使用 Math.addExactMath.subtractExact 方法代替 +-Math.addExactMath.subtractExact 方法会在出现溢出时抛出异常如下。

Exception in thread "xxxx" java.lang.ArithmeticException: integer overflow
at java.base/java.lang.Math.addExact(Math.java:911)

可以通过对异常的处理捕获或处理让技术团队知道出现了 Integer 溢出。

3. 为什么 Math.absInteger.MIN_VALUE 无效

Math.abs 的源码如下,只是简单的对负数做了一个 - 操作,类似 * -1

public static int abs(int a) {  return (a < 0) ? -a : a;  
}

二进制中的相反数是对该数字安位取反(含符号位)后+1。而通过计算得出 Integer.MIN_VALUE 的相反数等于它的本身,所以 Math.absInteger.MIN_VALUE 无效,计算过程如下。
在这里插入图片描述

原码—补码转换的计算过程可以参考这篇文档——原码、反码和补码。
二进制相反数的原理可以参考这篇文档——二进制相反数。

参考资料

JAVA 整数溢出问题
Java如何判断整数溢出,溢出后怎么得到提示
关于int的范围以及溢出问题
反码和补码的数学原理
由 Math.abs 谈负数转换与绝对值运算

http://www.lryc.cn/news/376525.html

相关文章:

  • 软件测试全面指南:提升软件质量的系统流程
  • 《逆贫大叔》:一部穿越时光的温情史诗
  • 【电机控制】FOC算法验证步骤——PWM、ADC
  • 如何衡量llm 数据集的多样性
  • 编程天才是什么意思
  • 创建npm私包
  • provider追加android:name的命名有哪些?
  • 长亭网络通信基础
  • hdfs源码解析之DFSClient
  • 智能化立体仓库的种类有哪些?
  • Stable Diffusion 3 如何下载安装使用及性能优化
  • c语言操作符详解
  • 【耐水好】强耐水UV胶水它的粘接强度和普通UV胶水比如何呢
  • jumpserver堡垒机集群搭建
  • Termius for Mac/Win:跨平台多协议远程管理利器
  • Unity OpenCVForUnity 安装和第二个案例详解 <二>
  • Lua实现自定义函数面向对象编程
  • docker安装消息队列mq中的rabbit服务
  • OpenAI新模型发布,免费开放GPT-4o!但只开放一点点...
  • idea的右边栏maven不见了(丢了)解决方案以及idea无法识别maven项目
  • 等待 chrome.storage.local.get() 完成
  • 004 AOP使用
  • Zookeeper 集群广播事务性能如何保证?
  • 【vue解决el-input组件自动填充用户名密码】
  • 案例练习:演讲比赛
  • 推荐一个很好用的Latex写代码的软件
  • windows 程序右键管理员点击无响应
  • 开发基于Java语言的SaaS(Software-as-a-Service,软件即服务)模式的HIS系统详解 HIS系统源码 支持二开
  • 关于微信小程序(必看)
  • Activity中Context