当前位置: 首页 > news >正文

29 kafka动态配置

为什么需要动态配置

线上运行的kafka broker修改配置需要重启的话,影响比较大。需要一个不需要重启就能使参数生效的功能

使用的场景

配置优先级:
per-broker参数 > cluster-wide参数 > static参数 > 默认参数

1.动态调整network线程数和工作线程数来扩缩容
2.修改日志的留存时间。不可能完美预估所有业务的消息留存时长
3.ssl相关参数。能创建过期时间很短的SSL证书,调整时kafka会重新配置socket连接并更新keystore,新的连接会使用新的keystore。
kafka如何使用的ssl[TODO]
4.调整follower向leader拉消息的线程数

评论区问题

1.动态配置的实现原理[TODO]
配置保存在zookeeper中,动态监听这个变更
2.follower为什么会拉取副本慢?它不负责读写只专心同步副本数据,增加线程就有用吗?
拉取是异步的网络请求。一个Broker上可能有很多follower副本,增加线程可以均匀分散这些follower副本来去任务
kafka follower拉取副本过程细节[TODO],比如follower拉取消息的间隔时间配置,请求是异步的?
3.怎样知道什么时候该调整这两组线程池大小?
可以监控请求队列的大小,可以看看broker端的请求队列的JMX指标

http://www.lryc.cn/news/251881.html

相关文章:

  • JIRA部分数据库结构
  • RK3568平台开发系列讲解(Linux系统篇) dtb 到 device_node 的转化
  • 屏幕的刷新率和分辨率
  • 面试官:请说说JS中的防抖和节流
  • [足式机器人]Part4 南科大高等机器人控制课 Ch00 课程简介
  • SSM项目实战-登录验证成功并路由到首页面,Vue3+Vite+Axios+Element-Plus技术
  • Python----网络爬虫
  • 【微信小程序】上传头像 微信小程序内接小程序客服
  • 【c++随笔15】c++常用第三方库
  • 数据结构 | 查漏补缺之ASL、
  • 泊车功能专题介绍 ———— 汽车全景影像监测系统性能要求及试验方法(国标未公布)
  • 【Linux】第二十六站:软硬链接
  • 开源播放器GSYVideoPlayer + ViewPager2 源码解析
  • 重启路由器可以解决N多问题?
  • Python WebSocket 客户端教程
  • 洛谷 P2984 [USACO10FEB] Chocolate Giving S
  • 【专题】【数列极限】
  • oracle基础系统学习文章目录
  • 长度最小的子数组(Java详解)
  • 计算机组成学习-数据的表示和运算总结
  • 目标检测YOLO系列从入门到精通技术详解100篇-【目标检测】机器视觉(基础篇)(八)
  • 【4】基于多设计模式下的同步异步日志系统-框架设计
  • Jupyter Markdown 插入图片
  • web自动化 -- pyppeteer
  • Java 数组另类用法(字符来当数组下标使用)
  • error转string
  • Android监听用户的截屏、投屏、录屏行为
  • MATLAB算法实战应用案例精讲-【路径规划】 图搜索算法
  • Elasticsearch-Kibana使用教程
  • mysql(八)docker版Mysql8.x设置大小写忽略