当前位置: 首页 > news >正文

C# double类型计算精度问题解决

问题:res 的值0.112450000001,精度不对,预期是0.11245

double force=112.45;

double res = force / Math.Pow(10, index * 3);

double force=112.45;
double res = force / Math.Pow(10, index * 3);
string str = res.ToString("F12");//保留12位有效数字
res = double.Parse(str);

结果res符合预期。

http://www.lryc.cn/news/321331.html

相关文章:

  • 基于Springcloud+Vue校园招聘系统 Eureka分布式微服务
  • 【NLP笔记】RNN总结
  • [c++]内存管理
  • k8s通过编排文件,实现服务的滚动更新
  • 安卓面试题多线程 96-100
  • 第二十六章 配置 Web Gateway 的默认参数
  • npm i安装依赖报错,但是cnpm i 却安装成功
  • C语言经典算法-9
  • React 19的变化
  • Kafka整理-Kafka与传统消息队列系统(如RabbitMQ, ActiveMQ)的区别是什么?
  • 汽车电子零部件(8):T_Box
  • 数库据设计最佳实践
  • ESSBAE 数据挖掘
  • 在Linux/Ubuntu/Debian中使用iFuse访问iOS 设备(例如 iPhone 或 iPad)上的文件可双向复制粘贴
  • 驱动开发中的DMA是什么
  • websocket 升级协议时的协议切换点
  • 在Linux中开发C++
  • 【linux】Debian访问Debian上的共享目录
  • Postman Newman API 自动化测试快速入门
  • Python之Web开发中级教程----ubuntu安装MySQL
  • Flutter开发入门——路由
  • Acrobat Pro DC 2023:PDF编辑与管理的全新体验
  • Linux课程_____网络管理
  • ubuntu20.04_PX4_1.13
  • 12350安全生产举报热线系统解决方案
  • Java 多线程(超详细讲解)上篇
  • 15届蓝桥杯备赛(2)
  • 使用Vuex构建网络打靶成绩管理系统及其测试页面平台思路
  • CPU的核心数与线程数对性能的影响是什么
  • Web前端-HTML