当前位置： 首页 > news >正文

计算机的错误计算（一百四十三）

news 2025/6/21 22:30:51

摘要  探讨 MATLAB 中 k\pi+\frac{\pi}{2} 附近数的余弦函数的计算精度问题。

例1.  已知 

x_1=0.392699082\textup{e}2\approx 12\,\pi+\frac{\pi}{2}\,, \\x_2=0.1115265392024\textup{e}3\approx 35\,\pi+\frac{\pi}{2}\,.

计算 \cos(x_1) 与 \cos(x_2)\,.

       直接贴图吧：

       另外，16位的正确值分别为 -0.3012758451921695e-7 与 -0.3765996542384011e-10（ISRealsoft 提供）。

       容易看出，MATLAB的输出中，与红色数字对应的有效数字是错误数字。这样，MATLAB的输出中分别有9位、12位错误数字；有效数字的错误率分别为 9/16 = 56.25% , 12/16 = 75% .

       注：可参考计算机的错误计算（六十五）。

http://www.lryc.cn/news/476079.html

相关文章：

  • 大数据之——Window电脑本地配置hadoop系统（100%包避坑！！方便日常测试，不用再去虚拟机那么麻烦）
  • 汽车固态电池深度报告
  • HTB-Cicada 靶机笔记
  • 使用DJL和PaddlePaddle的口罩检测详细指南
  • 基于stm32的多旋翼无人机（Multi-rotor UAV based on stm32)
  • 第二十四章 v-model原理及v-model简化表单类组件封装
  • Java基于SpringBoot 的校园外卖点餐平台微信小程序（附源码，文档）
  • 细说STM32单片机USART中断收发RTC实时时间并改善其鲁棒性的方法
  • 无人机场景 - 目标检测数据集 - 夜间车辆检测数据集下载「包含VOC、COCO、YOLO三种格式」
  • Dubbo 构建高效分布式服务架构
  • Unity XR Interaction Toolkit 开发教程（1）：OpenXR 与 XRI 概述【3.0 以上版本】
  • 自扶正救生艇，保障水上救援的安全卫士_鼎跃安全
  • 《Qwen2-VL》论文精读【下】：发表于2024年10月 Qwen2-VL 迅速崛起 | 性能与GPT-4o和Claude3.5相当
  • WebSocket消息帧的组成结构
  • 如何利用低代码开源框架实现高效开发？
  • 使用 RabbitMQ 有什么好处？
  • 机器学习周报（RNN的梯度消失和LSTM缓解梯度消失公式推导）
  • 一篇文章理解前端中的 File 和 Blob
  • 串口屏控制的自动滑轨（未完工）
  • DFA算法实现敏感词过滤
  • Python自动化运维：技能掌握与快速入门指南
  • 在linux系统中安装pygtftk软件
  • decodeURIComponentSafe转义%问题记录URI malformed
  • 自由学习记录（18）
  • vue3-ref 和 reactive
  • Apache Calcite - 查询优化之自定义优化规则
  • 大型语言模型（LLM）的小型化研究进展
  • MiniWord
  • Netty 常见组件介绍
  • 高频电子线路---倍频器与振荡器