当前位置: 首页 > news >正文

计算机的错误计算(九十三)

摘要  探讨 log(y,x) 即以 x 为底 y 的对数的计算精度问题。

       Log(y,x)运算是指 x 为底 y 的对数。 

例1.  计算 log(123667.888, 0.999999999999999) .

        不妨在Python中计算,则有:

若在 Excel 单元格中计算,则有几乎同样的输出:

        然而,正确值是 -0.1172535492888347e17(ISRealsoft 提供)。这样,二者均只有3位正确数字。其错误率均为 (16-3)/16 = 81.25% .

http://www.lryc.cn/news/438183.html

相关文章:

  • 基于SpringBoot+Vue的牙科就诊管理系统(带1w+文档)
  • 微信小程序使用 ==== 粘性布局
  • LineageOS刷机教程
  • Unity3D帧同步模式的网络游戏详解
  • “树”据结构:并查集从入门到AC
  • 高级java每日一道面试题-2024年9月11日-数据库篇-事务回滚的常见原因有哪些?
  • 目标检测中的解耦和耦合、anchor-free和anchor-base
  • git rev-parse
  • 【Unity】在Unity 3D中使用Spine开发2D动画
  • 考试:软件工程(01)
  • 数据结构应用实例(三)——赫夫曼编码
  • 关于Spring Cloud Gateway中 Filters的理解
  • 【实践】应用访问Redis突然超时怎么处理?
  • Spring Cloud Alibaba核心组件Nacos/Seata/Sentinel
  • Ubuntu搭建FTP服务器
  • Redis在单线程下删除大Key会发生什么?怎么删除大Key?
  • 《Exploit temporal cues in multi-camera 3D object detection》论文泛读
  • 十四、centos7 yum报错:cannot find a valid baseurl for repo:base/7/x86_64的解决方案
  • qt使用对数坐标的例子,qchart用QLogValueAxis坐标不出图解决
  • Python 爬虫入门 - 爬虫 requests 请求
  • flink中startNewChain() 的详解
  • uniapp 苹果安全域适配
  • linux使用命令行编译qt.cpp
  • Ubuntu 22.04 LTS 上安装 Docker
  • 2024秋季云曦开学考
  • 基于STM32与Qt的自动平衡机器人:从控制到人机交互的的详细设计流程
  • C#使用ZipFile的方法CreateFromDirectory
  • Redis 哨兵模式的选举算法是什么?
  • Linux shell编程学习笔记80:gzip命令——让文件瘦身
  • 【字幕】恋上数据结构与算法之01为什么要学习数据结构与算法