当前位置： 首页 > news >正文

计算机的错误计算（一百六十六）

news 2025/7/4 7:32:07

摘要  探讨 MATLAB 关于算式 

\frac{\tan(0.125\times10^{-6})-\sin(0.125\times10^{-6})}{0.125\times10^{-6}-\sqrt{1+(0.125\times10^{-6})^2}}

的计算误差。

例1.  已知  f(x)=\frac{\tan(x)-\sin(x)}{x-\sqrt{1+x^2}}\,^{[1]}\,,  x_0=0.125\times10^{-6}\,.  计算 f(x_0)\,.

       直接贴图吧：

       然而，16位的正确结果为 -0.9765626220703239e-21（ISRealsoft 提供）。这样，MATLAB输出的有效数字的错误率为 (16-2)/16 = 87.5% .

       注：可参看计算机的错误计算（一百二十三）。

参考文献

[1] Ward Cheney, David Kincaid. Numerical Mathematics and Computing. 6th Ed. CA: Thomson Higher Education, 2008, p, 69

http://www.lryc.cn/news/491476.html

相关文章：

  • typeof 和 as 关键字
  • Python酷库之旅-第三方库Pandas(237)
  • git提交到远程仓库如何撤回?
  • 微信小程序常用全局配置项及窗口组成部分详解
  • ThingsBoard规则链节点：Azure IoT Hub 节点详解
  • 「Mac玩转仓颉内测版32」基础篇12 - Cangjie中的变量操作与类型管理
  • 【Android】RecyclerView回收复用机制
  • 麒麟系统性能瓶颈分析
  • Java二分查找+冒泡排序
  • （三）手势识别——动作识别应用【代码+数据集+python环境（免安装）+GUI系统】
  • 大数据实战——MapReduce案例实践
  • OpenCV基础（3）
  • 大语言模型---RewardBench 介绍；RewardBench 的主要功能；适用场景
  • 泷羽sec-linux
  • 栈、队列、链表
  • 【maven】配置下载私有仓库的快照版本
  • LabVIEW引用类型转换问题
  • GUI智能代理：用AI代理玩米哈游游戏《崩坏》
  • 系统思考—环路图的好处
  • torch.set_printoptions
  • Nexus搭建go私有仓库，加速下载go依赖包
  • Qt6 Android设置文件读写权限设置
  • TCP快速重传机制为啥出现重复ACK？
  • SSM--SpringMVC复习（二）
  • C语言蓝桥杯组题目
  • 【解决】Unity TMPro字体中文显示错误/不全问题
  • 【Threejs进阶教程-着色器篇】9.顶点着色器入门
  • 质量留住用户：如何通过测试自动化提供更高质量的用户体验
  • 【CSP CCF记录】201803-1第13次认证 跳一跳
  • 详解Qt 中使用虚拟键盘（软键盘qtvirtualkeyboard）