当前位置: 首页 > news >正文

lazarus开发:提升sqlite数据插入速度

目录

1 前言

2 优化数据容器

3 开启事务插入数据

4 其他方面优化


1 前言

近期有一个需求是向数据库中插入excel文件中的10万多条数据,接近70个字段。最初整个插入数据时间是大约40分钟,经过优化调整后,大幅优化为大约5分钟。这里简单介绍一下采取的措施。

2 优化数据容器

这里的数据容器是指,数据从外部读入后,插入数据库之前,暂时存放在什么地方。原来是以com方式调用excel程序,打开excel文件,读取数据到stringGrid中。这种方式速度慢,容易出错。现在改用fpsDataset读取excel数据,数据直接保存在数据集中。后面执行数据显示和插入数据到数据库中,直接操作这个数据集就可以了,非常快速高效。

前面介绍过这个fpSpreadSheet这个神器,操作电子表格太方便了。

    wsDataset := TsWorksheetDataset.create(self);wsDataset.FileName := UTF8ToSys(fn); // fn是excel文件名wsDataset.Open; 

3 开启事务插入数据

开启事务方式后,插入数据效率有数十倍的提升!lazarus操作sqlite数据库,使用事务的语法如下:

  DM.SQLTransaction1.EndTransaction;DM.SQLTransaction1.StartTransaction;  循环开始。。。。。。sql := 。。。。。。tryDM.SQLite3Conn.ExecuteDirect(sql);excepton E: Exception dobeginshowmessage('出错了7: ' + E.ClassName + '/' + E.Message);memo1.append(ansiToUtf8(sql));memo1.append('插入记录失败,sql语句:');dm.SQLTransaction1.RollBack;exit;end;end;   。。。。。。循环结束DM.SQLTransaction1.Commit;

4 其他方面优化

如果数据量特别大,就不需要在程序界面全部显示所有数据,那样太浪费时间,可以只显示100行或者1000行数据。

http://www.lryc.cn/news/211569.html

相关文章:

  • 瑞萨RH850-P1X ECM和英飞凌TC3xx SMU对比
  • Ajax学习笔记第三天
  • ESP32-C3 低功耗懒人开关:传统开关轻松上云和本地控制
  • 前端学习路线指南:从入门到精通【①】
  • Flash模拟EEPROM原理浅析
  • Typora 最新激活方法
  • jenkins如何安装?
  • 从零开始的LINUX(三)
  • CleanMyMac2024永久免费版Mac系统磁盘清理工具
  • HashSet 元素不重复
  • 基于SpringBoot的二手车交易系统的设计与实现
  • 最短路径:迪杰斯特拉算法
  • 基于UDP/TCP的网络通信编程实现
  • springboot启动报错
  • Python中的split()函数
  • 大数据-玩转数据-Python Sftp Mysql 数据
  • Selenium3-当元素通过@FindBy获取时,返回元素为null
  • JWT详解解读读
  • 一文详解如何从 Oracle 迁移数据到 DolphinDB
  • 负载均衡--Haproxy
  • 股票价格预测 | 融合CNN和Transformer以提升股票趋势预测准确度
  • QMI8658A_QMC5883L(9轴)-EVB 评估板
  • vue2+antd——实现动态菜单路由功能——基础积累
  • 代码随想录算法训练营第三十八天丨 动态规划part01
  • 关于集合遇到的坑
  • 需要下微信视频号视频的小伙伴们看过来~
  • 测试工具:hurl
  • RateLimiter限流
  • PMP适合哪些人去考?
  • 钡铼技术 工控机中的X86和ARM处理器:哪个更具可扩展性?