当前位置: 首页 > news >正文

python数值误差

最近在用fenics框架跑有限元代码,其中有一个部分是把在矩阵里定义的初始值,赋值到有限元空间里,这就涉及到了初始矩阵和有限元空间坐标的转化,部分代码如下

for i in range(len(dof_coordinates)):#     x, y = dof_coordinates[i]#原本的区间是0到physical_length的,根据num_grids_per_axis长度进行缩放.# ix, iy = min(int(x / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1), min(int(y / physical_length * (num_grids_per_axis - 1)), num_grids_per_axis - 1)ix, iy = min(int(x * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1), min(int(y * (num_grids_per_axis - 1) / physical_length), num_grids_per_axis - 1)

这里有一点需要注意:

x要先和num_grids_per_axis相乘,然后再除以physical_length。先除再乘的话,数学逻辑上一样,但是如果一个很小的数,除以一个很大的数,会有舍入误差。所以先乘再除。

http://www.lryc.cn/news/431891.html

相关文章:

  • 基于FPGA的OV5640摄像头图像采集
  • CDN ❀ Http协议标准缓存字段梳理
  • 浅谈NODE的NPM命令和合约测试开发工具HARDHAT
  • k8s-pod 实战六 (如何在不同的部署环境中调整startupprobe的参数?)
  • 和服务端系统的通信
  • python 实现perfect square完全平方数算法
  • 【漏洞复现】某客圈子社区小程序审计(0day)
  • 信息安全数学基础(1)整除的概念
  • SearchGPT与谷歌:早期分析及用户反馈
  • VUE饿了么UPload组件自定义上传
  • 2.1概率统计的世界
  • SpringBoot使用QQ邮箱发送邮件
  • 使用 OpenCV 和 NumPy 进行图像处理:HSV 范围筛选实现PS抠图效果
  • IIS中间件
  • BMP280气压传感器详解(STM32)
  • DWPD指标:为何不再适用于大容量SSD?
  • 路由器的固定ip地址是啥意思?固定ip地址有什么好处
  • Java——踩坑Arrays.asList()
  • 前缀列表(ip-prefix)配置
  • 每日OJ_牛客_电话号码(简单哈希模拟)
  • 鸿蒙轻内核M核源码分析系列十二 事件Event
  • 基于 RocketMQ 的云原生 MQTT 消息引擎设计
  • AWVS/Acunetix Premium V24.8
  • [数据集][目标检测]灭火器检测数据集VOC+YOLO格式3255张1类别
  • 【技术警报】Redis故障启示录:当主节点宕机,如何避免数据“雪崩”?
  • 【基础】Three.js加载纹理贴图、加载外部gltf格式文件
  • 【区块链 + 人才服务】FISCO BCOS 区块链实训和管理平台 | FISCO BCOS应用案例
  • 联众优车持续加大汽车金融服务投入与创新,赋能汽车消费新生态
  • 基于yolov8的西红柿检测系统python源码+onnx模型+评估指标曲线+精美GUI界面
  • PHP轻量级高性能HTTP服务框架 - webman