当前位置: 首页 > news >正文

lua中大数相乘的问题

math.maxinteger * 2 --> -2

原因:math.maxinteger的二进制 :
0111111111111111111111111111111111111111111111111111111111111111
往左移位,最右加一个0,是
1111111111111111111111111111111111111111111111111111111111111110
对应的十六进制机器位 0xFFFFFFFFFFFFFFFE 对应的真值也就是-2

math.mininteger * 2 --> 0

对应二进制:
1000000000000000000000000000000000000000000000000000000000000000
乘二后的二进制:
0000000000000000000000000000000000000000000000000000000000000000
显然是0

math.maxinteger * math.maxinteger

同样采用移位的思路分析,已知maxinteger是奇数,那么就是math.maxinteger的二进制移位n次后再加一个数m,首先确定n是多少,math.maxinteger 是2^63+(-1),n是63, 之后确定m,m=-1
先把math.maxinteger 左移 63位,为:
1000000000000000000000000000000000000000000000000000000000000000
对应真值 mininteger (也就是-2^64)
再加上-math.maxinteger(二进制
1000000000000000000000000000000000000000000000000000000000000001
),
1000000000000000000000000000000000000000000000000000000000000000
+
1000000000000000000000000000000000000000000000000000000000000001

结果是:
0000000000000000000000000000000000000000000000000000000000000001

显然真值为1

math.mininteger * math.mininteger --> 0

可以从补码乘法的角度理解,具体参考补码乘法。
https://web.archive.org/web/20150213203512/http://pages.cs.wisc.edu/~cs354-1/beyond354/int.mult.html

方便起见,以4位计算机为例:(有符号整数范围-8到7)

          11111000        -8x  11111000     x  -8----------------    ------00000000         00000000000000001111100011111000111110001111100011111000----------------111000001000000

截断后四位,真值是0, 同理,math.mininteger * math.mininteger的结果也是0

值得一提的是,如果观察后8位,同样能得出64的正确真值,而这个数对16取模依然是0(等效于溢出后的运算结果)

http://www.lryc.cn/news/368299.html

相关文章:

  • 第一个SpringBoot项目
  • Android 10.0 Launcher修改density禁止布局改变功能实现
  • CAN协议简介
  • (二)JSX基础
  • GB 38469-2019 船舶涂料中有害物质限量检测
  • 汇编:数组-寻址取数据
  • ROS自带的OpenCV库和自己安装版本冲突问题现象及解决方法
  • html+CSS+js部分基础运用19
  • 探索 Debian 常用命令:掌握 Linux 系统管理的重要一步
  • 「C系列」C 作用域规则
  • 【机器学习基础】Python编程10:五个实用练习题的解析与总结
  • 【设计模式】结构型设计模式之 门面模式
  • MAC地址简介
  • 五种网络IO模型
  • VSCode超过390万下载的请求插件
  • 前端 JS 经典:下载的流式传输
  • k8s面试题大全,保姆级的攻略哦(三)
  • 从年金理论到杠杆效应,再到财务报表与投资评估指标
  • K8S - 用kubectl远程访问内网的k8s集群
  • STM32F103C8移植uCOSIII并以不同周期点亮两个LED灯(HAL库方式)【uCOS】【STM32开发板】【STM32CubeMX】
  • 【c语言】qsort函数及泛型冒泡排序的模拟实现
  • MySQL之多表查询—表子查询
  • Java 18风暴来袭:解锁编程新纪元
  • 文件操作(Python和C++版)
  • Git【版本控制命令】
  • 打字侠是一款PWA网站,如何下载到电脑桌面?
  • Scikit-learn使用步骤?使用场景?
  • MySQL 5.7详细下载安装配置教程(MySQL 5.7安装包)_mysql5.7的安装教程
  • 电阻十大品牌供应商
  • 深度学习复盘与论文复现C