当前位置: 首页 > news >正文

刷题笔记1:如何科学的限制数字溢出问题

LCR 192. 把字符串转换成整数 (atoi) - 力扣(LeetCode)

我们以力扣的此题目为例,简述在诸如大数运算等问题中如何限制数字溢出问题。

先来直接看看自己的处理方式: 

class Solution {
public:int myAtoi(string str) {int pcur=0;int flag=0;if(str.size()==0) return 0;while(str[pcur]==' '||str[pcur]=='-'||str[pcur]=='+'){if(str[pcur]=='-'||str[pcur]=='+') {if(str[pcur]=='-')flag=1;//找到负数标志++pcur;break;}   ++pcur;}if(!isdigit(str[pcur])) return 0;long ans=0;long ans1=0;while( pcur!=string::npos && str[pcur]<='9'&& str[pcur]>='0'){ans1=(str[pcur]-'0'+ans*10);if(ans1>INT_MAX){ans=INT_MAX;break;}ans=(int)ans1;++pcur;}if(flag){if(ans==INT_MAX && ans1 != INT_MAX) ans=-ans-1;else ans=-ans;};return ans;}
};

 

 题目前置的转换空格与正负号等都不是主要问题。由于计算机对于有符号整形的储存特点,INT_MIN是-2147483648(2^31) 而INT_MAX是2147483647(2^31-1),原来使用的是一个ans1提前帮助ans探路是否超过INT_MAX 或者INT_MIN,但是最终代码较为冗余。我们看看该如何控制最后的这段判断是否溢出的逻辑:


1.我们直接把界限设在INT_MAX/10的位置上

int border = INT_MAX / 10;  // 用来验证计算结果是否溢出int范围的数据
while (i < str.size())
{// 遇到非数字字符,则返回已经计算的res结果if (str[i] < '0' || str[i] > '9')break;// 注意这句话要放在字符转换前,因为需要验证的位数比实际值的位数要少一位, 这里比较巧妙的地方在于// 1. 用低于int型数据长度一位的数据border判断了超过int型数据长度的值 // 2. 将超过最大值和低于最小值的情况都包括了if (res > border || res == border && str[i] > '7')return sign == true ? INT_MAX : INT_MIN;//开始对数字字符进行转换num = str[i] - '0';res = res * 10 + num;i++;

2.然后正常判断是否需要跳出

3.最关键的一步:

 if (res > border || res == border && str[i] > '7')return sign == true ? INT_MAX : INT_MIN;

因为我们提前了一位border,所以在将新的一位数字加在我们原本数字的基础前,已经比border大的再加一位一定是溢出;已经等于214748364的,下一位是8或者9的也可以直接在下一步取溢出值。这样就避免了真的去计算可能溢出的值而导致混乱。这种方法的精髓就是并没有真正去计算在溢出边缘的这一位会如何如何,而是提前根据范围判断出是否溢出,减少麻烦。

http://www.lryc.cn/news/358479.html

相关文章:

  • 社区供稿丨GPT-4o 对实时互动与 RTC 的影响
  • 基于Linux的文件操作(socket操作)
  • C++面试题记录(网络)
  • YoloV8改进策略:卷积篇|基于PConv的二次创新|附结构图|性能和精度得到大幅度提高(独家原创)
  • 图论(从数据结构的三要素出发)
  • spark相关知识
  • K8S认证|CKA题库+答案| 12. 查看Pod日志
  • 【Java SE】 String、StringBuff和StringBuilder
  • 产品经理-需求分析(三)
  • Linux 编译器gcc/g++使用
  • adam优化器计算过程(tensorflow)
  • 【数据结构与算法 | 链表篇】力扣876
  • kubeadm引导欧拉系统高可用的K8S1.28.X
  • 【信息学奥赛】字典的键和值对换
  • 使用Django框架搭建Web应用
  • 我用Mybatis的方式封装了OLAP查询!
  • golang rune类型解析,与byte,string对比,以及应用
  • 重学java 51.Collections集合工具类、泛型
  • 多语言印度红绿灯系统源码带三级分销代理功能
  • HTML拆分与共享方式——多HTML组合技术
  • K8s集群之 存储卷 PV PVC
  • “腾讯云 AI 代码助手”体验
  • Django入门全攻略:从零搭建你的第一个Web项目
  • AI大模型日报#0529:杨红霞创业入局“端侧模型”、Ilya左膀右臂被Claude团队挖走
  • 达梦数据库
  • 什么是Axios
  • React 其他 Hooks
  • echarts配置记录,一些已经废弃的写法
  • 电量计量芯片HLW8110的前端电路设计与误差分析校正.pdf 下载
  • Redis实践记录与总结