当前位置: 首页 > news >正文

QString设置小数点精度位数

QString设置小数点精度位数

  • Chapter1 QString设置小数点精度位数
  • Chapter2 Qt中QString.toDouble有效位数6位问题以及数据小数点有效位数的处理
    • 问题一:QString.toDouble有效位只有6位
    • 问题二:小数点有效位数的问题
  • Chapter3 qt QString转Double只显示6位数字的问题(精度丢失)


QString 转double,double转QString 中的小数点问题

Chapter1 QString设置小数点精度位数

原文链接:https://blog.csdn.net/xxzhaoming/article/details/130364751

在Qt中,我们可以使用QString::number()函数将float类型转换为QString类型以便在界面上显示。该函数默认显示6位小数,但我们也可以通过设置第二个参数来控制小数点位数。

以下是示例代码,将float类型的变量num转换为QString类型,保留2位小数:

float num = 3.1415926;
QString str = QString::number(num, 'f', 2);

在上面的代码中,参数’f’表示将数值格式化为浮点数,2表示保留2位小数。

Chapter2 Qt中QString.toDouble有效位数6位问题以及数据小数点有效位数的处理

原文链接:https://blog.csdn.net/nichimgp/article/details/129301059

问题一:QString.toDouble有效位只有6位

  QString sVal="1234.5678";double dVal=sVal.toDouble();qDebug()<<"字符串转 double:"<<<<dVal<<endl; //输出结果:1234.57 此处Qt打印输出只会保留6位数字qDebug()<<"字符串转 double:"<<qSetRealNumberPrecision(10)<<dVal<<endl;//输出结果为1234.5678//但假如让dVal写入数据库(QSqlite),写入的值仍是1234.57,有说法是因为对数据库来说,所有的数据都是打印的字符文本,所以会按照默认打印结果保存。
//有开发需求,尤其是精度需求,保险还是用String来保存。反正从数据库中拿到的任何数据都可以直接toString()/toDouble()

问题二:小数点有效位数的问题

Qt的浮点数计算,四舍五入保留都比较麻烦。尤其是int 1234567想转为double 123.4567。因为Qt又默认只保存前6位,所以数据就是123.457。所以对精度要求高的话,就不要直接1234567/10000.用除法。可以用字符串拼接的方法:

  //需求:保留4位小数//Index是要除以10000转double的值quint32 Integer=Index/10000;quint32 decimal=Index%10000;QString sVal=QString("%1.%2").arg(Integer).arg(decimal);//此处会有新问题,假如index%1000=567,那么数据就是123.567 此处真实值应该是123.0567)//下面可以解决:QString sVal=QString("%1.%2").arg(Integer).arg(decimal,4, 10, QLatin1Char('0'));//前位补0//4-小数点有效位数 10-进制 前位补0

Chapter3 qt QString转Double只显示6位数字的问题(精度丢失)

QString使用toDoouble转化double类型,其实精度没有丢失,只是我们使用qDebug打印时出了问题。qDebug它对于double类型只显示6位数字。
如果想要打印所以数字,方法如下:

QString val = 123.456789;
qDebug()<<qSetRealNumberPrecision(10)<<val.toDouble();

且double转QString精度丢失解决方法:

double num = 123.0456789;
QString val = QString::number(num,'f',8);

在这里插入图片描述

http://www.lryc.cn/news/273290.html

相关文章:

  • 基于Java驾校预约管理系统
  • C++面向对象高级编程(侯捷)笔记2
  • 双曲正弦函数(*) 优化麦克劳林公式
  • 无监督关键词提取算法:TF-IDF、TextRank、RAKE、YAKE、 keyBERT
  • web3 : blockscout剖析
  • 【机器学习基础】DBSCAN
  • 计算机硬件 4.4键盘与鼠标
  • Flappy Bird QDN PyTorch博客 - 代码解读
  • 听GPT 讲Rust源代码--compiler(9)
  • Go语言中关于go get, go install, go build, go run指令
  • 石头剪刀布游戏 - 华为OD统一考试
  • 【北亚服务器数据恢复】ZFS文件系统服务器ZPOOL下线的数据恢复案例
  • C# 反射的终点:Type,MethodInfo,PropertyInfo,ParameterInfo,Summry
  • 2020年认证杯SPSSPRO杯数学建模D题(第一阶段)让电脑桌面飞起来全过程文档及程序
  • 谷歌推出创新SynCLR技术:借助AI生成的数据实现高效图像建模,开启自我训练新纪元!
  • Vue2中使用echarts,并从后端获取数据同步
  • 【Redux】自己动手实现redux-thunk
  • ElasticSearch使用Grafana监控服务状态-Docker版
  • VS Code 如何调试Python文件
  • day06、SQL语言之概述
  • 3D目标检测(教程+代码)
  • 让设备更聪明 |启英泰伦离线自然说,开启智能语音交互新体验!
  • React Hooks之useState、useRef
  • 提供电商Api接口-100种接口,淘宝,1688,抖音商品详情数据安全,稳定,支持高并发
  • git的使用 笔记1
  • 基于SpringBoot的医疗挂号管理系统
  • prometheus与zabbix监控的对比介绍
  • 详解全志R128 RTOS安全方案功能
  • 【MySQL】WITH AS 用法以及 ROW_NUMBER 函数 和 自增ID 的巧用
  • 基于SpringBoot的在线考试系统源码和论文