当前位置: 首页 > news >正文

计算机的错误计算(一百四十二)

摘要  本节探讨 MATLAB中 k\pi(k\neq 0) 附近数的正弦函数的计算精度问题。

例1.  已知

x_1=0.3769911184\textup{e}2\approx 12\,\pi\,, \\x_2=0.166504\textup{e}3\approx 53\,\pi\,. 

计算 \sin(x_1) 与 \sin(x_2)\,.

       直接贴图吧:

       另外, 16位的正确值分别为 -0.3077518861551721e-8 与 0.4106402475009074e-3(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有9位、6位错误数字。有效数字的错误率分别为 9/16 = 56.25% , 6/16 = 37.5% .

       注:可参考计算机的错误计算(六十四)。

http://www.lryc.cn/news/475423.html

相关文章:

  • 利用大模型辅助科研论文写作·第一期|论文写作·24-11-02
  • JavaScript。—关于语法基础的理解—
  • Tomcat 11 下载/安装 与基本使用
  • Linux系统时间服务——Chrony服务器
  • C# 接口(Interface)
  • 《高频电子线路》—— 电容三端LC振荡器
  • leetcode35.搜索插入位置
  • Redis全系列学习基础篇之位图(bitmap)常用命令的解析
  • Copilot功能
  • 《GBDT 算法的原理推导》 11-13初始化模型 公式解析
  • # Easysearch 与 LLM 融合打造高效智能问答系统
  • 本地可以插入表记录,生产不能插入表记录
  • 11.Three.js使用indexeddb前端缓存模型优化前端加载效率
  • 功能测试:方法、流程与工具介绍
  • 【Orange Pi 5 Linux 5.x 内核编程】-设备驱动中的sysfs
  • 微信小程序-全局数据共享/页面间通信
  • java计算机毕设课设—Java聊天室(附源码、文章、相关截图、部署视频)
  • 图像识别基础认识
  • 使用 OpenCV 读取和显示图像与视频
  • 【1】Elasticsearch 30分钟快速入门
  • 教材管理系统设计与实现
  • 软考(中级-软件设计师)数据库篇(1101)
  • 安装nscd及glibc包冲突降级【centos7】
  • Qt字符编码
  • Ubuntu用docker安装AWVS和Nessus(含破解)
  • tauri开发中如果取消了默认的菜单项,复制黏贴撤销等功能也就没有了,解决办法
  • HNU-小学期-专业综合设计
  • Linux安装es和kibana
  • 第二十六章 Vue之在当前组件范围内获取dom元素和组件实例
  • Markdown 区块