当前位置: 首页 > news >正文

C#浮点运算出错问题

在计算单价等活动的时候,我们经常会用到double 浮点进行运算,但是在乘除的时候经常出现精度丢失问题
decimal 关键字表示 128 位数据类型。 同浮点型相比,decimal 类型具有更高的精度和更小的范围,这使它适合于财务和货币计算

  double unitprice = Convert.ToDouble(0.2) * 1.006 * 10000;int priceint = (int)Math.Ceiling(unitprice); // 0.20120000000000002//后面丢失的是精度//这样就不会丢失精度了
double result2 = (double)((decimal)0.2* (decimal)1.006);
http://www.lryc.cn/news/304834.html

相关文章:

  • WPF 控件禁用时,显示悬浮提示
  • 在 Windows 上使用 VC++ 编译 OpenSSL 源码的步骤
  • 【MySQL】解决在join表时一对多的情况下重复数据的问题
  • 高并发Server的基石:reactor反应堆模式
  • Linux安全基线与加固
  • 应对电脑重新分区文件消失:预防措施、常见成因与恢复关键要点
  • 本地配置多个git账户及ll设置
  • week04day04(爬虫)
  • 【数据结构初阶 6】二叉树:堆的基本操作 + 堆排序的实现
  • IDEA Debug框的 show execution point按钮没了
  • 突破编程_C++_面试(类(1))
  • vue项目使用vue2-org-tree
  • Vue30 自定义指令 函数式 对象式
  • JAVA高并发——单例模式和不变模式
  • RabbitMQ(一):消息队列MQ
  • HarmonyOS—使用预览器查看应用/服务效果
  • 大项目中,某个cpp文件读取所在包路径的方法
  • gem5学习(25):用于异构SoC的片上网络模型——Garnet2.0
  • 康威生命游戏
  • vscode与vue环境配置
  • Linux的ACL权限以及特殊位和隐藏属性
  • 使用openai-whisper实现语音转文字
  • C++模板为什么不能声明和定义分离
  • 啊丢的刷题记录手册
  • 用nginx正向代理https网站
  • 面向对象设计模式
  • 人工智能_CPU微调ChatGLM大模型_使用P-Tuning v2进行大模型微调_007_微调_002---人工智能工作笔记0102
  • Android自编译Pixel3内核加入KernelSU
  • Go 数据库编程精粹:database/sql 实用技巧解析
  • AI-Gateway:一款整合了OpenAI、Anthropic、LLama2等大语言模型的统一API接口