当前位置: 首页 > news >正文

Kafka系列之:Kafka集群同时设置基于时间和日志大小两种方式保存Topic的数据

Kafka系列之:Kafka集群同时设置基于时间和日志大小两种方式保存Topic的数据

  • 一、基于日志大小
  • 二、基于时间大小
  • 三、参数设置
  • 四、设置命令

一、基于日志大小

  • "log.retention.bytes"是Apache Kafka中的一项配置参数,用于指定每个日志段文件的最大大小。当日志段文件的大小达到或超过该配置值时,Kafka将开始删除该日志段中最旧的消息,以保持日志段文件的大小在一定的范围内。
  • 这个参数的设置可以帮助控制消息在Kafka中的持久化存储时间。如果设置得较小,将会导致更频繁的日志段切换和消息删除,可能会增加磁盘IO的负载。相反,如果设置得较大,将会导致消息在Kafka中存储的时间更长,可能会增加磁盘使用量。
  • 合理设置"log.retention.bytes"参数可以根据实际需求来平衡磁盘空间的利用率和消息的保留时间。需要根据具体的业务场景和预期的消息保留时间,以及可用磁盘空间等因素来进行设置。

二、基于时间大小

  • "log.retention.hours"是Apache Kafka中的另一个配置参数,用于指定每个日志段文件的最大保留时间。当日志段文件的最后一条消息的时间戳超过该配置值时,Kafka将开始删除该日志段文件,以保持消息在Kafka中的存储时间在一定的范围内。
http://www.lryc.cn/news/296876.html

相关文章:

  • pytest+allure批量执行测试用例
  • SpringBoot和SpringMVC
  • 免费搭建幻兽帕鲁服务器,白嫖阿里云游戏服务器
  • [技术杂谈]如何下载vscode历史版本
  • nginx slice模块的使用和源码分析
  • AI应用开发-python实现redis数据存储
  • 2024年Java架构篇之设计模式
  • 搭建macOS开发环境-1:准备工作
  • 【Makefile语法 02】Makefile语法基础
  • 如何写一个其他人可以使用的GitHub Action
  • 排序算法的时间复杂度存在下界问题
  • 详解洛谷P2016 战略游戏/BZOJ0495. 树的最小点覆盖之战略游戏(贪心/树形DP)
  • 解决The Tomcat connector configured to listen on port 8080 failed to start
  • 深度学习自然语言处理(NLP)模型BERT:从理论到Pytorch实战
  • C语言的循环结构
  • C#用Array类的FindAll方法和List<T>类的Add方法按关键词在数组中检索元素并输出
  • 【前后端接口AES+RSA混合加解密详解(vue+SpringBoot)附完整源码】
  • React环境配置
  • Pandas 数据处理-排序与排名的深度探索【第69篇—python:文本数据处理】
  • 第8节、双电机多段直线运动【51单片机+L298N步进电机系列教程】
  • Elasticsearch:基本 CRUD 操作 - Python
  • 1992-2022年全国及31省对外开放度测算数据(含原始数据+计算结果)(无缺失)
  • JVM之GC垃圾回收
  • 自然语言学习nlp 六
  • fpga 需要掌握哪些基础知识?
  • Qt未来市场洞察
  • GPT-4模型中的token和Tokenization概念介绍
  • 宽字节注入漏洞原理以及修复方法
  • 【Linux】SystemV IPC
  • iview 页面中判断溢出才使用Tooltip组件