当前位置: 首页 > news >正文

kafka学习笔记7 性能测试 —— 筑梦之路

kafka 不同的参数配置对 kafka 性能都会造成影响,通常情况下集群性能受分区、磁盘和线程等影响因素,因此需要进行性能测试,找出集群性能瓶颈和最佳参数。

# 生产者和消费者的性能测试工具
kafka-producer-perf-test.sh
kafka-consumer-perf-test.sh

 kafka-producer-perf-test.sh:用于测试Kafka Producer的性能,主要输出4项指标,总共发送消息量(以MB为单位),每秒发送消息量(MB/second),发送消息总数,每秒发送消息数(records/second)。

kafka-consumer-perf-test.sh:用于测试Kafka Consumer的性能,测试指标与Producer性能测试脚本一样

测试准备

  • 前置条件:3 个Broker(节点),1个Topic(主题),3个Partition(分区),1 个 Replication(副本),异步模式,消息Payload为300字节,消息数量 5000万,kafka 版本为 3.9.2

  • 硬件配置:4 核 CPU,8G 内存,1T HDD 硬盘

  • 测试工具:Kafka自带的基准工具

生产者基准测试

bin/kafka-producer-perf-test.sh \--topic perf-test \--num-records 5000000 \--record-size 300 \--throughput -1 \--producer.config /opt/kafka/config/admin.properties \--print-metrics参数说明:--topic 指定topic--num-records 指定生产数据量--throughput 指定吞吐量(-1表示无限制)--record-size record数据大小--producer.config 指定 kafka 客户端配置文件路径--print-metrics 打印结果指标值

消费者基准测试

bin/kafka-consumer-perf-test.sh \--topic perf-test \--messages 50000000 \--consumer.config /opt/kafka/config/admin.properties \--bootstrap-server 192.168.100.131:9092,192.168.100.132:9092,192.168.100.133:9092 \--print-metrics

http://www.lryc.cn/news/525712.html

相关文章:

  • HQChart使用教程30-K线图如何对接第3方数据45- DRAWRADAR数据结构
  • Java集合学习:HashMap的原理
  • ETLCloud在iPaas中的是关键角色?
  • Docker Hub 全面解析及应对策略
  • 第五天 Labview数据记录(5.1 INI配置文件读写)
  • 【算法】经典博弈论问题——巴什博弈 python
  • ES6语法
  • 窥探QCC518x-308x系列与手机之间的蓝牙HCI记录与分析 - 耳机篇
  • ubuntu k8s 1.31
  • Prometheus+grafana实践:Doris数据库的监控
  • 【豆包MarsCode蛇年编程大作战】花样贪吃蛇
  • 企业级流程架构设计思路-基于价值链的流程架构
  • AI编程工具使用技巧:在Visual Studio Code中高效利用阿里云通义灵码
  • 钉钉群机器人设置——python版本
  • 细说STM32F407单片机电源低功耗StandbyMode待机模式及应用示例
  • IOS 安全机制拦截 window.open
  • jmeter中对接口进行循环请求后获取相应数据
  • 【QT】-explicit关键字
  • 【深度学习】 自动微分
  • 字节跳动自研HTTP开源框架Hertz简介附使用示例
  • skynet 源码阅读 -- 核心概念服务 skynet_context
  • 每日十题八股-2025年1月23日
  • MongoDB部署模式
  • opencv笔记2
  • springboot使用ssl连接elasticsearch
  • Linux内核中的InfiniBand核心驱动:verbs.c分析
  • 把网站程序数据上传到服务器的方法和注意事项
  • 完全平方数——唯一分解定理
  • (详细)Springboot 整合动态多数据源 这里有mysql(分为master 和 slave) 和oracle,根据不同路径适配不同数据源
  • mock可视化生成前端代码