当前位置: 首页 > news >正文

RocketMQ常见问题梳理

MQ常见问题深度剖析:消息不丢失、顺序性、幂等性与积压处理

本文基于RocketMQ核心原理,结合Kafka/RabbitMQ对比,深入分析MQ四大核心问题解决方案


一、消息不丢失保障机制

消息丢失风险点

  1. 跨网络传输:生产者→Broker、Broker→消费者、主从同步
  2. Broker缓存机制:PageCache异步刷盘导致数据未持久化
  3. 极端故障:整个MQ集群宕机

生产者保证方案

1. 发送确认机制
// RocketMQ同步发送(强安全)
SendResult result = producer.send(msg, 20*1000); // Kafka Future获取(同步效果)
RecordMetadata metadata = producer.send(record).get();// RabbitMQ Publisher Confirms
channel.addConfirmListener(ackCallback, nackCallback);
2. RocketMQ事务消息(双保险)
Commit
Rollback
发送半消息
执行本地事务
事务状态?
提交消息
丢弃消息

设计本质:通过多次网络确认+本地事务绑定,解决业务操作与消息发送的一致性


Broker存储保证

刷盘策略对比
MQ同步刷盘异步刷盘
RocketMQflushDiskType=SYNC_FLUSH默认策略
实际10ms间隔刷盘(非实时)
Kafkalog.flush.interval.messages=1默认Long.MAX
RabbitMQ经典队列不支持实时刷盘流队列依赖OS刷盘

关键结论:任何MQ都无法100%保证断电不丢消息,需结合生产者确认使用


主从同步策略

  1. RocketMQ普通集群

    • 角色模式:ASYNC_MASTER/SYNC_MASTER/SLAVE
    • 故障处理:Master宕机后Slave不切换,等待恢复避免数据丢失
  2. Kafka机制差异

    • Leader切换后,旧Leader未同步数据直接丢弃(可用性优先)
  3. Dledger集群(推荐)

    • 基于Raft协议实现多数派写入
    • 网络分区时可能丢失未确认消息

消费者保障

核心原则:同步处理+消费确认

// 错误示范(异步处理导致丢失)
consumer.registerMessageListener((msgs, context) -> {new Thread(() -> processMsg(msgs)).start(); // 异步线程return ConsumeConcurrentlyStatus.CONSUME_SUCCESS; // 立即确认
});

正确做法:业务处理完成后再提交ACK/Offset


极端场景:全集群宕机

降级方案

  1. 生产者写入本地缓存(DB/文件)
  2. 独立线程异步重试投递
  3. MQ恢复后优先处理缓存消息

二、消息顺序性保障

局部有序实现原理

组件生产者保证消费者保证
RocketMQ相同Hash写入同一MessageQueue单线程消费队列(并发控制)
Kafka指定Partition key单Partition单线程消费
RabbitMQ绑定同一队列单消费者消费单队列

全局有序代价:设置Topic/Partition=1,严重牺牲吞吐量(不推荐)


三、消息幂等性保障

重复消费场景

  1. 生产者重试导致重复发送
  2. 消费者ACK丢失触发重投

解决方案

生产者端
MQ幂等机制
RocketMQMessageID去重(不适用于事务消息)
Kafka开启idempotence:
- PID+SequenceNumber
Broker维护<PID,Partition>序列号
消费者端
// 业务层幂等处理示例
ConcurrentHashMap<String, Boolean> processedMsgIds = new ConcurrentHashMap<>();void processMessage(Message msg) {String bizId = msg.getKeys(); // 业务唯一标识if(processedMsgIds.putIfAbsent(bizId, true) != null) {return; // 已处理则跳过}// 核心业务逻辑...
}

最佳实践:优先使用业务唯一标识(如订单ID)而非MessageID


四、消息积压处理

积压根源

  • 消费者吞吐量不足:处理逻辑复杂或资源不足
  • 设计缺陷:生产者速率 >> 消费者能力

应急方案

1. 消费者扩容
MQ扩容限制优化手段
RocketMQConsumer数 ≤ MessageQueue数增加队列数(需重建Topic)
RabbitMQClassic Queue无明确限制调整Qos权重
2. 建立临时Topic
积压Topic
新建临时Topic
迁移未消费消息
启动只读消费者组快速消费
结果写入DB/缓存
3. 死信队列兜底
  • RocketMQ默认保留72小时
  • 需手动订阅处理:%DLQ%ConsumerGroupName

五、课程核心总结

  1. 设计哲学差异

    • RocketMQ:金融级数据安全(阿里系)
    • Kafka:高吞吐日志处理(LinkedIn)
    • RabbitMQ:灵活消息路由(传统企业)
  2. 方案选择本质

    业务场景
    技术选型
    参数调优
    监控迭代

不存在完美解决方案,只有最适合业务场景的平衡点设计

http://www.lryc.cn/news/599286.html

相关文章:

  • kafka如何保证数据不丢失
  • 2025年7月25日训练日志
  • Elasticsearch-8.17.0 centos7安装
  • Flink 自定义类加载器和子优先类加载策略
  • 第一章:Go语言基础入门之流程控制
  • k8s-MongoDB 副本集部署
  • 呼叫中心系统管理权限功能配置
  • gig-gitignore工具实战开发(四):使用ai辅助生成gitignore
  • 熵与交叉熵:从信息论到机器学习的「不确定性」密码
  • 有关于k8s中的CSI和CRI的有关知识
  • [硬件电路-85]:一款高集成度热电制冷器(TEC)控制器芯片ADN8835ACPZ
  • 【Docker项目实战】在Docker环境下部署go-file文件分享工具
  • SaaS型小程序自动化发布解决方案
  • 飞行控制领军者 | 边界智控携高安全级飞控系统亮相2025深圳eVTOL展
  • 大型微服务项目:听书——11 Redisson分布式布隆过滤器+Redisson分布式锁改造专辑详情接口
  • 巧用Proxy与异步编程:绕过浏览器安全限制实现文件选择器触发
  • 秋招Day19 - 分布式 - 分布式锁
  • 线性代数 下
  • 关于回归决策树CART生成算法中的最优化算法详解
  • 机器学习笔记(三)——决策树、随机森林
  • 水库大坝安全监测的主要内容
  • 在VSCode配置Java开发环境的保姆级教程(适配各类AI编程IDE)
  • 【内网穿透】使用FRP实现内网与公网Linux/Ubuntu服务器穿透项目部署多项目穿透方案
  • SSSD介绍
  • 【阅读整理】野火ADC_AD7192模块资料
  • “即时零售”风起,E3+企业中台如何赋能品牌企业破局增长?
  • CIU32L051 DMA+Lwrb环形队列实现串口无阻塞性数据的收发 + 数据百分百不丢失的实现
  • 百度蜘蛛池解析机制:原创
  • 通用CI/CD软件平台TeamCity v2025.3全新发布——主要界面交互体验升级
  • AWS CAF:企业云转型的战略指南