当前位置: 首页 > news >正文

使用pg_prewarm缓存PostgreSQL数据库表

pg_prewarm

pg_prewarm 直接利用系统缓存的代码,对操作系统发出异步prefetch请求,在应用中,尤其在OLAP的情况下,对于大表的分析等等是非常耗费查询的时间的,而即使我们使用select table的方式,这张表也并不可能将所有的数据都装载到内存中,而pg_prewarm的功能就是完成一个张表全部进入到内存中的功能。

按照官方文档 PostgreSQL 13的说明,预热有两种方式,一种是手动调用pg_prewarm函数,用于将当前所需的数据装入内存。另一个选择是自动执行,要要设置shared_preload_libraries参数。设置完毕后,系统将自动运行一个后台工作进程,它定期将shared_buffer中的内容写入到文件 autoprewarm. blocks中,以便在重新启动数据库后,快速加载该文件内部的数据块,实现预热功能。

安装与使用方式

create extension pg_prewarm;
-- t1为表名
SELECT pg_prewarm('t1');

参数

函数体为

CREATE FUNCTION pg_prewarm(regclass,
mode text default buffer,
fork text default main,
first_block int8 default null,
last_block int8 default null)
RETURNS int8
AS MODULE_PATHNAME, pg_prewarm
LANGUAGE C
  • regclass:要做prewarm的表名
  • mode:prewarm模式。prefetch表示异步预取到os cache;read表示同步预取;buffer表示同步读入PG的shared buffer
  • fork:relation fork的类型。一般用main,其他类型有visibilitymap和fsm
  • first_block & last_block:开始和结束块号。表的first_block=0,last_block可通过pg_class的relpages字段获得
  • RETURNS int8:函数返回pg_prewarm处理的block数目(整型)

因为对于大小超过shared_buffer/4的表进行全表扫描时,pg一般不会使用全部的shared_buffer,而是只使用很少一部分的shared_buffer。所以,将大表加载到缓存中不能用一个查询来直接实现的,而pg_prewarm正好可以满足这个需求。

性能测试

在一个3363786记录数的业务表中,添加缓存之前的

explain (analyze,buffers) select *  from t1;

添加缓存前
添加缓存后

create extension pg_prewarm
SELECT pg_prewarm('t1');
explain (analyze,buffers) select *  from t1;

缓存后
对比上面2图,可以看出,时间大幅度下降.

http://www.lryc.cn/news/110478.html

相关文章:

  • LeetCode 28题:找出字符串中第一个匹配项的下标
  • flink+kafka+doris+springboot集成例子
  • ARM裸机-14(S5PV210的时钟系统)
  • Milvus Cloud凭借AI原生,可视化优势荣登全球向量数据库性能排行榜VectorDBBench.com 榜首
  • 测试岗?从功能测试进阶自动化测试开发,测试之路不迷茫...
  • 算法与数据结构(五)--树【1】树与二叉树是什么
  • 打开的idea项目maven不生效
  • kvm+qemu+libvirt管理虚机
  • 电气防火限流式保护器在汽车充电桩使用上的作用
  • VBA技术资料MF38:VBA_在Excel中隐藏公式
  • Gson:解析JSON为复杂对象:TypeToken
  • 伪彩色处理及算法
  • Gradle-02:问题Plugin with id ‘maven‘ not found
  • jupyter lab环境配置
  • Unity Sort Group(排序组)
  • 基于总线加锁和缓存锁(CPU实现原子操作的两种方式)
  • MybatisPlus存在 sql 注入漏洞(CVE-2023-25330)解决办法
  • 【java】使用maven完成一个servlet项目
  • 前端Vue入门-day07-Vuex入门
  • 2023再谈前端状态管理
  • ffmpeg SDL播放器--播放udp组播流
  • __attribute__((noreturn))
  • 遮挡边界处的深度补全和双曲面外推
  • LK-99室温超导激发万万亿市场,将对我们的生活产生哪些影响?
  • 子集——力扣78
  • 【计算机视觉 | 目标检测 | 图像分割】arxiv 计算机视觉关于目标检测和图像分割的学术速递(8 月 2 日论文合集)
  • JDK中「SPI」原理分析
  • DSL:数字用户线路(Digital Subscriber Line)
  • Java集合ArrayList详解
  • React Dva项目 Model中编写与调用异步函数