当前位置: 首页 > news >正文

kafka入门(四):消费者

消费者 (Consumer )

消费者 订阅 Kafka 中的主题 (Topic) ,并 拉取消息。

消费者群组( Consumer Group)

每一个消费者都有一个对应的 消费者群组。
一个群组里的消费者订阅的是同一个主题,每个消费者接收主题的一部分分区的消息。
每一个分区 (Partition),只能被一个消费组中的一个消费者消费。

伸缩性

往群组里增加消费者是横向伸缩消费能力的主要方式。
注意:不要让消费者的数量超过主题分区的数量,多余的消费者只会闲置。

消费者与分区

假设主题T1有4个分区,我们创建了消费者C1,它是群组G1里唯一的消费者,我们用它订阅主题T1。消费者C1将收到主题T1全部4个分区的消息,如图4-1所示。
请添加图片描述
如果往群组G1新增多几个消费者,直到有4个消费者,那么每个消费者可以分配到一个分区,如图4-3所示。

请添加图片描述
如果我们往群组里添加更多的消费者,超过主题的分区数量,那么有一部分消费者就会被闲置,不会接收到任何消息,如图4-4所示。

请添加图片描述
可以为每一个需要获取一个或多个主题全部消息的应用程序创建一个消费者群组,然后往群组里添加消费者来伸缩读取能力和处理能力,群组里的每个消费者只处理一部分消息。

请添加图片描述

消费者群组与分区再均衡

分区的所有权从一个消费者转移到另一个消费者,这样的行为被称为再均衡.
再均衡为消费者群组带来了高可用性和伸缩性.
在再均衡期间,消费者无法读取消息,造成整个群组一小段时间的不可用。

何时会触发再均衡

  • 有新的消费者加入消费组
  • 有消费者宕机下线
  • 有消费者主动退出消费组
  • 消费组对应的 组协调器(GroupCoorinator)节点发生变更。
  • 消费组内所订阅的任一主题或者主题的分区数量发生变化。

组协调器(GroupCoorinator)

GroupCoorinator 是 kafka 服务端中用于管理消费组的组件。

消费者协调器 (ConsumerCoordinator)

负责与 组协调器 进行交互。
组协调器 和 消费者协调器 的职责就是负责执行消费者再均衡的操作。

参考资料:

《深入理解kafka:核心设计与实践原理》
《Kafka权威指南》

http://www.lryc.cn/news/257354.html

相关文章:

  • DFS、BFS求解leetcode图像渲染问题(Java)
  • 0基础学习云计算难吗?
  • 【RabbitMQ高级功能详解以及常用插件实战】
  • 开源的数据流技术,该选择Redpanda还是Apache Kafka?
  • 720度vr虚拟家居展厅提升客户的参观兴致
  • mysql中的DQL查询
  • 【数据结构高阶】红黑树
  • Unity中Batching优化的GPU实例化(1)
  • vue的data
  • Java基础课的中下基础课04
  • 解决vue ssr服务端渲染运行时报错:net::ERR_PROXY_CONNECTION_FAILED
  • APIFox:打造高效便捷的API管理工具
  • 半导体划片机助力氧化铝陶瓷片切割:科技与工艺的完美结合
  • java访问数据库的库和API概述
  • 如何实现远程公共网络下访问Windows Node.js服务端
  • Java架构师系统架构设计服务拆分应用
  • 盛域宏数合伙人张天:AI时代,数字化要以AI重构
  • Vue自定义指令插槽作用域插槽具名插槽
  • WIFI直连(Wi-Fi P2P)
  • 基于Spring+Spring boot的SpringBoot在线电子商城管理系统
  • 【稳定检索|投稿优惠】2024年光电信息与机器人发展国际会议(ICOIRD 2024)
  • 《python每天一小段》-- (11)操作 Excel 详解
  • 一文读懂MySQL基础知识文集(8)
  • 持续集成交付CICD: Sonarqube REST API 查找与新增项目
  • 分层网络模型(OSI、TCP/IP)及对应的网络协议
  • 如何衡量和提高测试覆盖率?
  • AWS Ubuntu设置DNS解析(解决resolve.conf被覆盖问题)
  • 学会这些可以升职加薪!EXCEL基础函数入门【一】
  • kubeadm搭建1.20.7版本k8s
  • LeetCode 力扣: 寻找两个正序数组的中位数 (Javascript)