当前位置: 首页 > news >正文

记一次 SpringBoot 启动慢的问题

记一次 SpringBoot 启动慢的问题

  • 背景
  • 问题描述
  • 分析处理
    • Flame Graph 火焰图
    • Call Tree 调用树
    • 关键词检索
    • 尝试解决
  • 为什么这样
    • 反向检索
    • 问题梳理
  • 复盘
    • 处理流程
    • 为什么
  • Reference

背景

最近临时接了一个任务,就从一个旧 springboot 项目 copy 出来,临时写个服务,跑一些数据。
项目的基本配置:

  • JDK 1.8
  • spring boot 2.0.6.RELEASE
  • tomcat 9.0.83
  • Hibernate 5
  • org.postgresql.postgresql-42.2.9 版本
  • Postgresql 14.10

项目功能很简单,就是查一批数据,处理一些逻辑。
时间紧任务重,赶紧噼里啪啦开干。
未曾想简单项目也有“鬼”。

问题描述

匆匆忙忙搞完我的 CURD 代码,再拼装一下,点击启动,趁着空档,接个水,上个厕所。

回来了,浏览器 http://localhost:8080 回车, 居然报错了,没有服务???

切换到 IDEA,看一下控制台输出日志,嗯?怎么还没显示 端口号 server start成功呢?

[2025-01-21 10:59:32,931] restartedMain org.hibernate.annotations.common.reflection.java.JavaReflectionManager 66 INFO HCANN000001: Hibernate Commons Annotations {5.0.1.Final}
[2025-01-21 10:59:32,994] restartedMain com.mchange.v2.log.slf4j.Slf4jMLog S l f 4 j M L o g g e r Slf4jMLogger Slf4jMLoggerInfoLogger 212 INFO Initializing c3p0 pool… com.mchange.v2.c3p0.ComboPooledDataSource []
[2025-01-21 10:59:33,276] restartedMain org.hibernate.dialect.Dialect 157 INFO HHH000400: Using dialect: org.hibernate.dialect.PostgreSQL94Dialect

最后一行日志, org.postgresql.Postgresql.Dailet , 好像是 Hibernate 初始化的 SQL 方言。

那就再等一下看看。

好家伙,这一等,足足快5分钟,终于慢悠悠地启动成功。

不应该呀,这么简单的单体 spring boot 项目,连个 PG,处理个数据,要启动5分钟,有没有搞错?

反复重启 2-3次,发现一直卡到那个地方。

以我之前的经验,多半卡在那个 Spring Bean 的初始化上了,而且跟 PG 有关。

上次碰到这个是还是上次呢,依稀记得是 rabbitMQ 初始化,因为网络问题,连接超时后一直连接重试,也是卡了几分钟。

不废话,上工具–照妖镜(Profiler),看看哪里搞鬼。

分析处理

使用 IDEA 自带的 Intellij Profiler,开启路径:
View > Tool > Profiler

main 方法上打断点,启动项目,选中进程,然后在 profiler 中开启监控,断点跳过,让它跑。

等了4-5分钟,关闭监控,关闭服务,开始看看我们抓到了什么。

Flame Graph 火焰图

选中 restartedMain 线程,这个是我们的启动线程,右侧看看火焰图,看哪里耗时多。
注意 右上角切换成 Total Time。
在这里插入图片描述

这个栈是真深,我就不截全了。

发现它就是个平顶山,耗时的大头都在最上面。
java.net.SocketInputStream.socketRead0(FileDescriptor, byte[], int, int, int)
一下干到 native 代码了,还能看到 windows 平台的动态链接库,微软的Socket库……

有几个关键路径:
hibernate5 buildSessionFactory
org.postgresql.jdbc.PgDatabaseMetaData.getTypeInfo()
org.postgresql.jdbc.TypeInfoCache.getSQLType(String)

Call Tree 调用树

换个视角看看,切换到 Call Tree 菜单,选中 restartedMain 线程。

spring 容器初始化的栈是真滴深,我只抓出最后一部分,时间单位是毫秒。
在这里插入图片描述

PgDatabaseMetaData.getTypeInfo() 执行了 236秒,还没返回,耗时占了整个运行时长的 99.2%, 真无语了。

关键词检索

Google 搜索关键词:postgresql jdbc TypeCache.getSQLType blocked on socket read

扒拉扒拉,没啥有价值的信息。

问题相似,但是没有最终的解决掉:

https://postgrespro.com/list/thread-id/2699119

这个也是类似,最后有提示,可能是驱动版本和 pg 版本不对照

https://confluence.atlassian.com/jirakb/connection-problems-to-postgresql-result-in-stuck-threads-in-jira-1047534091.html

PostgreSQL jdbc driver version
PostgreSQL jdbc 驱动程序版本
The socketTimeout connection property was not enforced properly due to a bug in the driver. Version 42.2.15 (2020-08-14) includes a bug fix:
由于驱动程序中存在错误,因此未正确实施 socketTimeout 连接属性。版本 42.2.15 (2020-08-14) 修复了一个错误:
● “Make sure socketTimeout is enforced PR 1831, 210b27a6” from the PostgreSQL JDBC Driver change log.
“确保强制实施 socketTimeout PR 1831、210b27a6”,来自 PostgreSQL JDBC 驱动程序更改日志。
Additionally, a bug exists in JDBC versions prior to 42.2.19 where SocketTimeoutException was ignored and thus timeout did not work as expected. Version 42.2.19 (2021-02-18) includes a bug fix:
此外,在 42.2.19 之前的 JDBC 版本中存在一个错误,即忽略 SocketTimeoutException,因此超时无法按预期工作。版本 42.2.19 (2021-02-18) 修复了一个错误:
● “properly set cancel socket timeout PR 2044 e551d1a6” from the PostgreSQL JDBC Changelog
“正确设置取消套接字超时 PR 2044e551d1a6”来自 PostgreSQL JDBC 更改日志
Please ensure that version 42.2.19 or later is used to ensure that the socketTimeout connection property works as expected.
请确保使用版本 42.2.19 或更高版本,以确保 socketTimeout 连接属性按预期工作。

得去 github 上 搜搜 issues: QueryExecutorImpl.execute block

看了几个 issue,都没有匹配我的问题

尝试解决

根据检索的信息,以及 PG 的版本和驱动的对应关系,优先调整驱动版本。

pogtgresql 14.10 => 驱动 42.6.X +
从 42.2.9 切换到 42.6.1 版本,重新 build,启动

OK了,启动很顺利。

问题解决了,但是莫名其妙的。

为什么这样

反向检索

肯定是 42.2.9 -> 42.6.1 中间有那个版本修复了这个问题。

没有办法的办法,反向分析,去 release 信息里去看看版本发布的 bug fix。

找到 42.2.10 版本发布信息时,发现了一个 PR:

Fix Network Performance of PgDatabaseMetaData.getTypeInfo() method by @dupski in #1668
修复 PgDatabaseMetaData.getTypeInfo() 方法的网络性能 by in #1668

哦吼,这不是跟我们的调用栈很相似吗?

我们看一下,它是修复的那个 issue:

Retrieving system column data types is slow #1342
https://github.com/pgjdbc/pgjdbc/issues/1342
关键词是 Retrieving system column data types is slow , 这可跟我们的检索词一点都不搭边。

但是内容确实很相似,继续查找,PgDatabaseMetaData.getTypeInfo()

N+1 SELECT caused by PgDatabaseMetaData#getTypeInfo() # 1301
https://github.com/pgjdbc/pgjdbc/issues/1301
这个 issue 跟我们的很像, PgDatabaseMetaData.getTypeInfo() 跑了 4分钟左右才返回。

感兴趣的可以深入看一下。

问题梳理

试着梳理一下,不一定对。

写个 3分钟速食版试着解释一下这个问题:

Hibernate sessionFactory 初始化的时候,会从 JDBC 驱动 的DatabaseMetaData 中提取类型信息。
我是用的是PG库, 驱动对应的是 PgDatabaseMetaData.getTypeInfo()

在 PG 中除了基本的列类型外,表也是一种复合类型,包括:视图,函数,序列等。
getTypeInfo 的规范说 get all of the types,所以查所有类型,包括表,视图,函数,序列,类型等元信息。

这个检索动作很慢,驱动程序首先执行 SQL 查询以获取可用类型,然后再循环地为每种类型运行SQL查询,这个地方存在严重的网络性能,会在启动阶段卡死,查询很久。

那么PgDatabaseMetaData.getTypeInfo()查询所有类型信息究竟要返回哪些信息,需要PG驱动实现的时候进行取舍。

42.2.6 版本 PgDatabaseMetaData.getTypeInfo 已经移除了 table类型(包括 表 视图 函数 序列),套用一句维护者的话:

Well I think removing tables from the typecache would help. I can’t imagine a database with 200k types

https://github.com/pgjdbc/pgjdbc/pull/1302
开眼了吧,业务的水也很深的好吧。

42.2.10 版本 优化了 PgDatabaseMetaData.getTypeInfo 的网络性能。
https://github.com/pgjdbc/pgjdbc/pull/1668
优化了类型信息的获取

42.2.942.6.2 版本更新中涉及到 PgDatabaseMetaData.getTypeInfo 只有这两个,所以42.2.10 版本应该能解决我的问题。
PS: 我重新用 42.2.10 版本启动了,6秒完成启动,这个版本也有效

但 PG 跨大版本升级后,会存在一些改动,尤其是元数据的部分,为了避免潜在的坑,还是使用跟 14.10 匹配的版本 42.6.1 吧。

所以使用驱动的时候一定要确定好 DB 的版本与驱动是否匹配。

复盘

处理流程

想起了一句名言:问题的关键是要找到关键的问题。

那么我们是怎么找到和定位这个关键的问题的呢?
启动速度慢,用性能分析工具,对启动耗时进行准确的定位。

定位问题之后,我们是如何处理的?
我是没法直接搞定这个问题,只能查看方法调用栈,快速提取关键词进行检索

搜索引擎解决问题了吗,有其他方式吗?
搜索引擎没直接解决我们的问题,但是给我们提供了一些思路。
如果无法检索到的话,就需要回到源头,去项目的 github 社区,搜索 issue。

我们的关键词可能无法匹配到 issue,那怎么办?
去 release 发布信息中去查看,可能这个问题已经修复了。

又总结了一个经典处理套路:
有问题的话,升个版试试,说不定新版本已经解决这个问题了。

重启和升版总有一个适合你。

为什么

这个问题本来觉得很简单,只是驱动版本不匹配的问题。
但是为了总结整理,反而挖到了不少知识盲区。

凡是多问个为什么,比别人多想一步,总会有意想不到的收货。
不要老是在水面游泳,偶尔也要扎个猛子,下潜一下,看看不一样的风景。

看了大佬们的 issue 讨论,好像自己也参与了一样,感觉真不错。

Enjoy Code, Enjoy Life.

Reference

N+1 SELECT caused by PgDatabaseMetaData#getTypeInfo()
https://github.com/pgjdbc/pgjdbc/pull/1302
Retrieving system column data types is slow
https://github.com/pgjdbc/pgjdbc/pull/1668

http://www.lryc.cn/news/524595.html

相关文章:

  • 高效安全文件传输新选择!群晖NAS如何实现无公网IP下的SFTP远程连接
  • 如何在Python中进行JSON数据的序列化和反序列化?
  • 学习记录-统计记录场景下的Redis写请求合并优化实践
  • 网站HTTP改成HTTPS
  • 如何在龙蜥 OS(AliOS)上安装极狐GitLab?
  • unity插件Excel转换Proto插件-ExcelToProtobufferTool
  • C#中的语句
  • 《罗宾逊-旅途VR》Build2108907官方学习版
  • 常用的跨域方案有哪些?
  • JDBC实验测试
  • ChatGPT 摘要,以 ESS 作为你的私有数据存储
  • 每日一题洛谷P2669 [NOIP2015 普及组] 金币c++
  • 【C语言系列】深入理解指针(2)
  • 与 Spring Boot 的无缝集成:ShardingSphere 快速集成实践
  • 【QT】窗口/界面置于最前端显示,且激活该窗口
  • DOL-288 多功能电子计时器说明书
  • 14 常用的负载均衡算法
  • 方法建议ChatGPT提示词分享
  • 如何提高自动化测试覆盖率和效率
  • Django学习笔记(安装和环境配置)-01
  • 【PHP】部署和发布PHP网站到IIS服务器
  • 渗透测试之SSRF漏洞原理 危害 产生的原因 探测手法 防御手法 绕过手法 限制的手段
  • 微信小程序-base64加解密
  • Linux shell 批量验证端口连通性
  • 2025-1-21 Newstar CTF web week1 wp
  • 【系统架构】如何设计一个秒杀系统?
  • C++模拟实现queue
  • 【2025小年源码免费送】
  • PyQt5 超详细入门级教程上篇
  • qiankun+vite+vue3