当前位置: 首页 > news >正文

计算机的错误计算(一百七十二)

摘要  探讨 MATLAB 对于算式 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}}) 的计算误差。

例1.  在 MATLAB 中计算 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}}) 的值。

       直接贴图吧:

这样,MATLAB 的输出中只有3位正确数字,有效数字的错误率为 (16-3)/16 = 81.25% .  因为16位的正确输出为 0.2971242332737277e-18(ISRealsoft 提供)。 

       注:可参考计算机的错误计算(一百三十三)。

http://www.lryc.cn/news/496054.html

相关文章:

  • C/C++每日一练:合并K个有序链表
  • STM32实现HC595控制三位数码管(内含程序,PCB原理图及相关资料)
  • 《沉积与特提斯地质》
  • Android studio 签名加固后的apk文件
  • Brain.js(二):项目集成方式详解——npm、cdn、下载、源码构建
  • 关于Vscode配置Unity环境时的一些报错问题(持续更新)
  • MacOS 配置github密钥
  • 从0开始学PHP面向对象内容之常用设计模式(策略,观察者)
  • 前端 如何用 div 标签实现 步骤审批
  • 【大数据技术基础 | 实验十四】Kafka实验:订阅推送示例
  • SpringAi整合大模型(进阶版)
  • 为什么爱用低秩矩阵
  • React 自定义钩子:useOnlineStatus
  • uniapp 小程序 监听全局路由跳转 获取路由参数
  • 12.02 深度学习-卷积
  • MySQL 主从同步一致性详解
  • Spring源码导入idea时gradle构建慢问题
  • Dockerfile 安装echarts插件给java提供服务
  • Springboot小知识(1):启动类与配置
  • [CISCN 2019华东南]Web11
  • Cypress内存溢出奔溃问题汇总
  • 树莓派4B--OpenCV安装踩坑
  • 电子电气架构 --- 面向服务的汽车诊断架构
  • Pytest --capture 参数详解:如何控制测试执行过程中的输出行为
  • IS-IS的原理
  • C++(4个类型转换)
  • Ubuntu20.04安装NVIDIA显卡驱动
  • 速盾:介绍一下高防cdn的缓存响应事什么功能?
  • Nuclei-快速漏洞扫描器
  • linux网络抓包工具