当前位置: 首页 > news >正文

Oracle存数字精度问题number、binary_double、binary_float类型

--表1 score是number(10,5)类型
create table TEST1
(score number(10,5)
);
--表2 score是binary_double类型
create table TEST2
(score binary_double
);
--表3 score是binary_float类型
create table TEST3
(score binary_float
);

实验一:分别往三张表插入 小数点前1位点后14位的数字7.23499999999999

--number(10,5)
insert into test values(7.23499999999999);
--binary_double
insert into test2 values(7.23499999999999);
--binary_float
insert into test3 values(7.23499999999999);

结果如下:

number(10,5)binary_doublebinary_float
7.235007.234999999999997.23500013

在这里插入图片描述

实验二:分别往三张表插入 小数点前2位点后14位的数字77.23499999999999

--number(10,5)
insert into test values(77.23499999999999);
--binary_double
insert into test2 values(77.23499999999999);
--binary_float
insert into test3 values(77.23499999999999);

结果如下:

number(10,5)binary_doublebinary_float
77.2350077.23577.23500006

在这里插入图片描述

总结

一、double类型的有效位有15位(小数点前+小数点后),若超过15位则存储到数据库时会四舍五入保存。

验证代码如下:

--binary_double
insert into test2 values(7.23499999999999);
insert into test2 values(77.23499999999999);
insert into test2 values(77.23411111111119);
描述示例数字结果
点前1位,点后14位,共15位7.234999999999997.23499999999999
点前2位,点后14位,共16位77.2349999999999977.235
点前2位,点后14位,共16位77.23411111111111977.2341111111112
二、float类型的有效位是6位或7位(小数点前+小数点后,看具体数字决定了6位或7位)。当你的业务需求要求数字有效位<=6位,存入数据库字段类型是number类型(精度>=6位)、binary_double类型和bingary_float类型都是可以保证没有损失精度的。但当你的业务需求要求数字有效位>6位时,如果你使用binary_float类型就不能保证精度了。
三、计算过程中,绝对不能做有损失精度的进位、保存操作,否则也不能保证精度。
http://www.lryc.cn/news/329767.html

相关文章:

  • Java封装最佳实践:打造高内聚、低耦合的优雅代码~
  • 开源,微信小程序-超级计算器T3000 简介
  • Dimitra:基于区块链、AI 等前沿技术重塑传统农业
  • 降低项目延期概率的5大注意事项
  • 在VUE页面调用Extjs中定义的方法
  • 【独立开发前线】Vol.32 能够坚持下去的人并没有你想象的那么多
  • Java 扫描某包下所有类的注解并获得注解值
  • 根据实例逐行分析NIO到底在做什么
  • TypeScript-对象的类型(接口)
  • Windows服务器安全策略配置几个步骤,轻松加强服务器安全
  • Hive详解(2)
  • 【浅尝C++】STL第二弹=>迭代器失效详解/vector常用接口使用示例/vector底层结构探索/vector模拟实现代码详解
  • 【pytest】pytest` 中几种常用的参数化方法
  • 设计模式-装饰者模式在Java中使用实例-打印发票装饰抬头和脚注
  • parallel linux虚拟机没有root权限
  • 科技下乡:数字乡村改变乡村生活方式
  • 【GitLab】Ubuntu使用宝塔安装GitLab最新社区版
  • C++入门(2)
  • Prometheus +Grafana +node_exporter可视化监控Linux + windows虚机
  • 腾讯云容器与Serverless的融合:探索《2023技术实践精选集》中的创新实践
  • python 字典练习
  • Postman进阶功能实战演练
  • Flink基于Hudi维表Join缺陷解析及解决方案
  • 3.31学习总结
  • Android Studio控制台输出中文乱码问题
  • itextPdf生成pdf简单示例
  • 【Linux系列】tree和find命令
  • AI预测福彩3D第23弹【2024年4月1日预测--第4套算法重新开始计算第9次测试】
  • Java常见限流用法介绍和实现
  • 算法——图论:判断二分图(染色问题)