当前位置: 首页 > news >正文

数据按设定单位(分辨率)划分的方法

1. 问题描述

需要将使用公式计算后的float数值换算到固定间隔数轴的对应位置上的数据,比如2.186这个数据,将该数据换算到以0.25为间隔的数轴上,换算后是2.0,还是2.25呢?该方法就是解决这个问题。

2. 方法
输入:input_data,换算间隔 intervel
输出:output_data
output_data = round(input_data * (1/intervel))  / (1/intervel)
3. example
input_data = 2.186
intervel = 0.25
output_data = round(2.186 * 4) / 4= round(8.7440) / 4= 9 / 4= 2.25

ps: round()函数为四舍五入取整。intervel可取0.5, 0.1等值。

END

参考资料
  • https://zhidao.baidu.com/question/129916268.html
http://www.lryc.cn/news/322826.html

相关文章:

  • Ubuntu 搭建gitlab服务器,及使用repo管理
  • QT(19)-QNetworkRequest
  • 基于Vue的社区旧衣回收利用系统的设计与实现
  • 【网站项目】291校园疫情防控系统
  • win git filter-repo教程
  • Redis相关操作高阶篇--集群搭建
  • JNDI注入原理及利用IDEA漏洞复现
  • 大数据,或称巨量资料
  • windows上打开redis服务闪退问题处理
  • 分布式锁简单实现
  • BM23 二叉树的前序遍历
  • 阿里云代理仓库地址
  • nginx的location规则与其他功能
  • 用汇编进行字符串匹配
  • 回归预测 | Matlab基于SAO-BiLSTM雪融算法优化双向长短期记忆神经网络的数据多输入单输出回归预测
  • mysql数据库的索引管理
  • VUE+Vant实现H5组织架构选人选公司组件
  • 【以图搜图】GPUNPU适配万物识别模型和Milvus向量数据库
  • 迷茫了!去大厂还是创业?
  • Qt源码分析: QEventLoop实现原理
  • 痛失offer的八股
  • 【Git】第一课:Git的介绍
  • 知识蒸馏——深度学习的简化之道 !!
  • 【爬虫】Selenium打开新tab页截图并关闭
  • 09 事务和连接池
  • P4344 [SHOI2015] 脑洞治疗仪 线段树+二分
  • 解决大型语言模型中的幻觉问题:前沿技术的综述
  • 机器学习流程—AutoML
  • Ubuntu 23.10 tar包安装和配置Elasticsearch kibana 7.13.3
  • glibc内存管理ptmalloc