当前位置: 首页 > news >正文

lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

function div(a, b)return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

http://www.lryc.cn/news/492205.html

相关文章:

  • Ubuntu下Docker容器java服务往mysql插入中文数据乱码
  • C语言根据字符串变量获取/设置结构体成员值
  • Selenium 自动化测试demo
  • LeetCode 111.二叉树的最小深度
  • 大工C语言作业答案
  • 【Unity踩坑】Unity中父对象是非均匀缩放时出现倾斜或剪切现象
  • QT 跨平台实现 SSDP通信 支持多网卡
  • 如何寻找适合的HTTP代理IP资源?
  • 数据结构(ArrayList顺序表)
  • 直接抄作业!Air780E模组LuatOS开发:位运算(bit)示例
  • RK3588-LinuxSDK安装
  • MATLAB 中有关figure图表绘制函数设计(论文中常用)
  • Unity UGUI原理剖析
  • Spring框架使用xml方式配置ThreadPoolTaskExecutor线程池,并且自定义线程工厂
  • 架构-微服务-服务网关
  • 基于springboot的HttpClient、OKhttp、RestTemplate对比
  • (计算机组成原理)期末复习
  • 从0到1部署Tomcat和添加servlet(IDEA2024最新版详细教程)
  • 【Java从入门到放弃 之 Java程序基础】
  • 2024年11月26日Github流行趋势
  • 相亲交友小程序项目介绍
  • 使用ENSP实现默认路由
  • CSGO游戏搬砖党如何应对上海Major
  • 【人工智能】AutoML自动化机器学习模型构建与优化:使用Auto-sklearn与TPOT的实战指南
  • go-zero(八) 中间件的使用
  • vim 如何高亮/取消高亮
  • 蓝桥杯练习题
  • 【设计模式】创建型模式之单例模式(饿汉式 懒汉式 Golang实现)
  • 使用 Docker Compose 来编排部署LMTNR项目
  • 创建HTTPS网站