当前位置: 首页 > news >正文

C#,JavaScript实现浮点数格式化自动保留合适的小数位数

目标

    由于浮点数有漂移问题,转成字符串时 3.6 有可能得到 3.6000000000001,总之很长的一串,通常需要截取,但按照固定长度截取不一定能使用各种情况,如果能根据数值大小保留有效位数就好了。

C#实现

    我们可以在基础库里增加一个扩展类,给double, float 一个ToFixed 扩展方法,注意该类不要有命名空间,否则调用时还要加上 using 才能找到。

using System;public static class DoubleExtensions
{public static string ToFixed(this double d, int accLen = 3){return toFixed(d, accLen);}public static string ToFixed(this float d, int accLen = 3){return toFixed(d, accLen);}private static string toFixed(double d, int accLen){var abs = Math.Abs(d);if (abs == 0) return "0";int fixedlen = accLen - (int)Math.Log10(abs);fixedlen = Math.Max(0, fixedlen);return d.ToString($"F{fixedlen}");}
}

JavaScript实现

    实现思路相同,需要的话可以封装一下再用。

var fixedlen = 0;
if (Math.abs(value) < 1000 && value !== 0)fixedlen = 3 - Math.log(Math.abs(value)) / Math.LN10;
value = value.toFixed(fixedlen);

测试结果

取整

  按照上述思路,C#中调用Math.Round即可实现智能取整。由于末端处理较为麻烦,我现在读到数据后就Round,后面就不用再ToFixed了。

public static string ToFixed(this float d, int accLen = 3){return toFixed(d, accLen);}public static double Round(this float d, int accLen = 3){return round(d, accLen);}private static double round(double d, int accLen){var abs = Math.Abs(d);if (abs == 0) return 0;int fixedlen = accLen - (int)Math.Log10(abs);fixedlen = Math.Max(0, fixedlen);return Math.Round(d, fixedlen);}

http://www.lryc.cn/news/365080.html

相关文章:

  • Android基础-工程目录结构说明
  • 浅谈提示词发展现状,Prompt 自动优化是未来。
  • 揭秘智能测径仪省钱之道!每年能为每条产线省上百万!
  • echaerts图例自动滚动并隐藏翻页按钮
  • OpenCV的小部件最基本范例
  • 内置类型知多少?
  • 【C++题解】1090 - 同因查找
  • uni微信小程序editor富文本组件如何插入图片
  • LabVIEW调用国产硬件DLL的稳定性问题及解决方案
  • 基础篇01——SQL的基本语法和分类
  • HOW - 面试技巧系列 - 全英文面试
  • 【人工智能】第六部分:ChatGPT的进一步发展和研究方向
  • 新能源管理系统主要包括哪些方面的功能?
  • python如何快速的判断一个key在json的第几层呢,并修改其value值
  • Python基础用语:揭示编程世界的底层逻辑与无限可能
  • react 中使用 swiper
  • 2024年搭建知识库系统5大工具推荐
  • Golang内存分配分三种Golang内存分配分三种类型
  • Marin说PCB之如何在主板上补偿链路中的走线的等长误差?
  • 企业在现代市场中的战略:通过数据可视化提升财务决策
  • printf(“不喝酒就没得朋友可是只要偶一喝酒就喝倒一代朋友人生真的很矛盾“);
  • JAVA小案例-分别计算100以内奇数和偶数的和
  • 头歌初识redis答案
  • Linux.小技巧快捷键
  • 传统的老程序员转向人工智能需要准备好这三件事情,你知道吗?
  • ICPC2024 邀请赛西安站(7/8/13)
  • STM32f103实现按键长按 短按 双击
  • 【WP】猿人学13_入门级cookie
  • 分享一款提取抖音小店商家电话的软件使用教程
  • 反转链表的三种方法--面试必考(图例超详细解析,小白一看就会!!!)