当前位置: 首页 > news >正文

计算机的错误计算(一百四十六)

摘要  探讨 MATLAB 中正切函数 tan(x)、余切函数 cot(x) 关于  附近数的计算精度问题。

例1.  已知

x_1=0.3926990817\,\textup{e}2\approx 12\,\pi+\frac{\pi}{2}\,, \\x_2=0.2984513\,\textbf{e}2\approx 9\,\pi+\frac{\pi}{2}\,.

计算 \tan(x_1)\,,  \cot(x_1)\,,  \tan(x_2)\,,  \cot(x_2)\,.

       直接贴图吧:

       另外,16位的正确值分别为 -0.7837941516239115e10、-0.1275845192169577e-9、0.4782331334117711e7 与 0.2091030357653982e-6(ISRealsoft 提供)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有12位、11位、8位及8位错误数字;有效数字的错误率分别为 12/16 = 75% , 11/16 = 68.75% , 8/16 = 50% , 8/16 = 50% .

       注:可参考计算机的错误计算(六十七)与(六十九)。

http://www.lryc.cn/news/478290.html

相关文章:

  • 国标GB28181视频平台EasyCVR私有化视频平台工地防盗视频监控系统方案
  • CUDA系统学习之一软件堆栈架构
  • SpringBoot项目中替换指定版本的tomcat
  • 【5.10】指针算法-快慢指针将有序链表转二叉搜索树
  • 机器学习—前向传播的一般实现
  • 极狐GitLab 签约足下科技,加速国产智驾操作系统的发展与普及
  • 20241102在荣品PRO-RK3566开发板的预置Android13下适配宸芯的数传模块CX6603N
  • 力扣(leetcode)题目总结——哈希表篇
  • AWS RDS Oracle hit ORA-39405
  • Dinky中配置Flink集群
  • 通讯录(C 语言)
  • 对比Java和TypeScript中的服务注册和查找机制
  • Flutter 主流常用第三方库、插件收集
  • 【在Linux世界中追寻伟大的One Piece】多路转接select
  • 补一下 二维 平面直角坐标系 到三维
  • 如何学习Python编程?
  • 使用EasyExcel实现导出excel文件时生成多级下拉选
  • 微信小程序 高校教材征订系统
  • 从0开始的STM32 定时器(I):聊一聊基本定时器
  • vue常见题型(1-10)
  • 【SpringBoot】使用注解进行XSS防御
  • 华为海思招聘-芯片与器件设计工程师-模拟芯片方向- 机试题-真题套题题目——共8套(每套四十题)
  • vscode 下载慢的解决方法
  • STM32ZET6-USART使用
  • es自动补全(仅供自己参考)
  • 13-综合排序:Function Score Query 优化算分
  • 鸿蒙应用App测试-专项测试(DevEco Testing)
  • RabbitMQ设置消息过期时间
  • 大数据-209 数据挖掘 机器学习理论 - 梯度下降 梯度下降算法调优
  • 粒子群优化双向深度学习!PSO-BiTCN-BiGRU-Attention多输入单输出回归预测