当前位置: 首页 > news >正文

计算机的错误计算(一百四十八)

摘要  本节探讨 MATLAB 中 k\,\pi+\frac{\pi}{2} 附近数的正割函数与 k\pi(k\neq 0) 附近数的余割函数的计算精度问题。

例1.  已知

x_1=0.1099557429\,\textup{e}2\approx 3\,\pi+\frac{\pi}{2}\,, \\x_2=0.8011061266654\,\textup{e}2\approx 25\,\pi+\frac{\pi}{2}\,; \\x_3= 0.9424778\,\textup{e}1\approx 3\,\pi\,, \\x_4=0.1822123739082\,\textup{e}3\approx 58\,\pi\,.

计算 \sec(x_1)\,,  \sec(x_2)\,,  \csc(x_3)\,,  \csc(x_4)\,.

       直接贴图吧:

       另外,16位的正确值分别为 0.4105556037464873e9、0.3670813182326778e13、-0.2549029285657875e8 与 -0.1248777628817462e12(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有10位、15位、8位及13位错误数字;有效数字的错误率分别为 10/16 = 62.5% , 15/16 = 93.75% , 8/16 = 50% , 13/16 = 81.25% .

       注:可参考计算机的错误计算(七十一)与(七十三)。

http://www.lryc.cn/news/480148.html

相关文章:

  • MySQL记录锁、间隙锁、临键锁(Next-Key Locks)详解
  • SLM401A系列42V商业照明线性恒流芯片 线性照明调光在LED模组及灯带智能球泡灯上应用
  • 京东零售推荐系统可解释能力详解
  • 蓝桥杯 懒洋洋字符串--字符串读入
  • SDL打开YUV视频
  • 微服务架构面试内容整理-Archaius
  • 实现 Nuxt3 预览PDF文件
  • udp为什么会比tcp 有更低的延迟
  • 基于java+SpringBoot+Vue的洗衣店订单管理系统设计与实现
  • HarmonyOS-消息推送
  • 数据分析:宏基因组DESeq2差异分析筛选差异物种
  • 出海企业如何借助云计算平台实现多区域部署?
  • 硬件---1电路设计安全要点以及欧姆定律
  • Linux如何更优质调节系统性能
  • 第三十五章 Vue路由进阶之声明式导航(跳转传参)
  • python爬虫自动库DrissionPage保存网页快照mhtml/pdf/全局截图/打印机另存pdf
  • 基于毫米波雷达和TinyML的车内检测、定位与分类
  • 小E的射击训练
  • React的概念以及发展前景如何?
  • PDF生成:全面解析,C# 如何使用iTextSharp库(或其他类似库)生成PDF文档,包括如何将位图图像嵌入PDF中。
  • 如何选择最适合的消息队列?详解 Kafka、RocketMQ、RabbitMQ 的使用场景
  • gitlab项目如何修改主分支main为master,以及可能遇到的问题
  • RRF(Reciprocal Rank Fusion,倒数排序融合)
  • 移动开发(七):.NET MAUI使用RESTAPI实现查询天气笔记
  • 企业数据无缝对接:从旺店通到金蝶云的入库单管理案例
  • 青少年编程与数学 02-003 Go语言网络编程 19课题、Go语言Restful编程
  • 系统架构设计师论文:论区块链技术及应用
  • 放电电阻是什么
  • 项目模块十七:HttpServer模块
  • Spire.PDF for .NET【页面设置】演示:获取 PDF 文件中的页数