当前位置: 首页 > news >正文

js 精确计算(解决js四则运算精度缺失问题)

js的小数的运算,可能会得到一个不精确的结果,因为所有的运算都要转换成二进制去计算,然而,二进制无法精确表示1/10。

var a = 0.1 + 0.2;
console.log(a);  //打印结果:0.30000000000000004

因此需要使用以下方法实现精确计算:

    // 两个浮点数求和function accAdd(num1,num2){var r1,r2,m;try{r1 = num1.toString().split('.')[1].length;}catch(e){r1 = 0;}try{r2=num2.toString().split(".")[1].length;}catch(e){r2=0;}m=Math.pow(10,Math.max(r1,r2));// return (num1*m+num2*m)/m;return Math.round(num1*m+num2*m)/m;}

    // 两个浮点数相减function accSub(num1,num2){var r1,r2,m;try{r1 = num1.toString().split('.')[1].length;}catch(e){r1 = 0;}try{r2=num2.toString().split(".")[1].length;}catch(e){r2=0;}m=Math.pow(10,Math.max(r1,r2));n=(r1>=r2)?r1:r2;return (Math.round(num1*m-num2*m)/m).toFixed(n);}

    // 两数相乘function accMul(num1,num2){var m=0,s1=num1.toString(),s2=num2.toString(); try{m+=s1.split(".")[1].length}catch(e){};try{m+=s2.split(".")[1].length}catch(e){};return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);}

    // 两数相除function accDiv(num1,num2){var t1,t2,r1,r2;try{t1 = num1.toString().split('.')[1].length;}catch(e){t1 = 0;}try{t2=num2.toString().split(".")[1].length;}catch(e){t2=0;}r1=Number(num1.toString().replace(".",""));r2=Number(num2.toString().replace(".",""));return (r1/r2)*Math.pow(10,t2-t1);}
http://www.lryc.cn/news/308557.html

相关文章:

  • SpringBoot之统一事务管理配置
  • 荒岛生存:以牙签为核心资源的生存策略与思考
  • 云计算 2月26号 (进程管理和常用命令)
  • Pytorch中,dim形象化的确切意义是什么?
  • 跨域引起的两个接口的session_id不是同一个
  • 解释一下前端框架中的虚拟DOM(virtual DOM)和实际DOM(real DOM)之间的关系。
  • 【MyBatis-Plus】之queryWrapper.apply用法
  • Centos中安装Docker及Docker的使用
  • 亿道推出重磅加固平板!为行业发展注入新动力
  • Gemma谷歌(google)开源大模型微调实战(fintune gemma-2b)
  • MySQL:数据库中有哪些锁
  • MWC 2024丨美格智能发布全新5G-A模组及FWA解决方案,将5.5G带入现实
  • Opencv双目校正函数 stereoRectify 详解
  • 实现前端开发几个常用技巧
  • Vue3 在SCSS中使用v-bind
  • 玩转地下管网三维建模:MagicPipe3D系统
  • 11.以太网交换机工作原理
  • 【通信基础知识】完整通信系统的流程图及各模块功能详解
  • k8s-项目测试环境部署
  • 【Elasticsearch管理】缓存机制
  • JS api基础初学
  • uniapp实战:父子组件传参之子组件数量动态变化
  • Ubuntu绑定USB接口到固定端口
  • 解决gogs勾选“使用选定的文件和模板初始化仓库”报错500,gogs邮件发送失败,gogs邮件配置不生效,gogs自定义模板等问题
  • 数字后端——DEF文件格式
  • 【可做课设、附完整技术文档】流式、异步、实时的Django聊天室!(需进一步定制可联系本人)
  • 网络编程:基于TCP和UDP的服务器、客户端
  • kubectl 命令行管理K8S(上)
  • Redis 之四:Redis 事务和乐观锁
  • C# WPF编程-创建项目