当前位置: 首页 > news >正文

被问到MQ消息已丢失,该如何处理?

在分布式系统中,消息中间件(如 RabbitMQ、RocketMQ、Kafka、Pulsar 等)扮演着关键角色,用于解耦生产者和消费者,并确保数据传输的可靠性和顺序性。尽管我们通常会采取多种措施来防止消息丢失,如消息持久化、手动确认机制和重试机制等,但如果消息已经丢失了这种情况,当丢失已经发生又应该如何处理呢?下面我们探讨可能的丢失场景及相应的补救措施。

1. 生产者发送消息失败

场景: 生产者在发送消息到消息中间件时失败,消息没有成功进入队列。

补救措施:

  • 消息重发: 生产者实现重试,在发送消息失败时进行多次重试,确保消息最终被成功发送。
  • 本地存储: 在发送消息失败时,将消息保存到本地存储(如数据库或文件),稍后再尝试发送,确保消息不会丢失。
  • 日志记录: 记录发送失败的日志信息,以便后续排查和处理。

2. 消息在传输过程中丢失

场景: 消息在从生产者到消息中间件,或者从消息中间件到消费者的传输过程中丢失。

补救措施:

  • 消息重发:和第一种情况类似,由生产者实现消息重发,也就是再次发起业务。

3. 消息中间件内部丢失

场景: 消息中间件由于内部故障(如节点崩溃、磁盘故障等)导致消息丢失。

补救措施:

  • 高可用配置: 一般来说消息中间件都会配置集群,当然集群的方案可能会不同,但如果是配置了高可用集群,此时是主节点挂了可以通过多节点冗余和数据复制来提高系统的容错能力。在某个节点发生故障时,可以从其他节点恢复数据。
  • 日志记录: 日志记录系统操作和状态变化,通过重放日志可以在节点故障后恢复数据。
    • Kafka 事务日志: Kafka 使用事务日志记录所有消息操作,故障恢复时可以重放日志来恢复消息。
    • RabbitMQ 消息日志: 配置 RabbitMQ 记录消息操作日志,重启节点后可以从日志中恢复消息。
  • 备份与恢复:定期备份消息和队列状态,当发生硬件故障时,可以从备份中恢复数据。

4. 消费者未处理完消息前丢失

场景: 消费者收到消息后,在处理消息的过程中发生异常,导致消息丢失。

补救措施:

  • 消息重发:由生产者实现消息重发,也就是再次发起业务。当然这种方式得生产者进行配合,有时比较深的业务链某个环节出现丢失,要重新发送的代价也会比较高。当然如果业务简单重发也是比较简单的。
  • 未确认消息重发: 如果是消费者在处理消息时不会自动ACK或未发送ACK给消息中间件情形,此时消息中间件会将未确认的消息重新放回队列,重新投递给其他消费者或同一个消费者进行处理。
  • 死信队列:若是消息处理失败超过一定次数或消息在队列中停留超过一定时间时,此时消息转移到死信队列。消费者可以从死信队列中找回消息。

尽管我们可以采取多种预防措施来防止消息丢失,但消息丢失仍然可能发生。在消息已经丢失的情况下,我们需要快速识别丢失的场景,并采取相应的补救措施。

http://www.lryc.cn/news/405664.html

相关文章:

  • open3d:ransac分割多个平面(源码)
  • Github 2024-07-17 开源项目日报 Top10
  • vue3中Composition API写法 <script setup>标签中哪些可以不用导入即可使用?
  • Facebook Dating:社交平台的约会新体验
  • 【系统架构设计 每日一问】五 搜索型业务,采用MySQL+ES,如何保证数据一致性
  • 缓存穿透,缓存击穿,缓存雪崩
  • 运维 | 清理 Linux 磁盘空间方法汇总
  • googleTest 源码主线框架性分析——TDD 01
  • Python:对常见报错导致的崩溃的处理
  • linux系统进程占cpu 100%解决步骤
  • 数据传输安全--IPSEC
  • Unity XR Interaction Toolkit的安装(二)
  • 什么是PCB流锡槽焊盘/C型焊盘,如何设计?-捷配笔记
  • 电缆故障精准定位系统
  • Google Chrome 浏览器在链接上点右键的快捷键
  • Redis在SpringBoot中遇到的问题:预热,雪崩,击穿,穿透
  • Pytorch 6
  • iterator(迭代器模式)
  • 使用Web控制端和轻量级客户端构建的开放Web应用防火墙(OpenWAF)
  • 设计模式在FileBrowser中的几个应用
  • 【JavaEE进阶】——Spring AOP
  • Python - conda使用大全
  • ASPICE在汽车软件开发中的作用
  • 亚马逊云科技 re:Inforce 2024中国站大会
  • Lottie:动态动画的魔法棒
  • IPython使用技巧整理
  • C#数组复习
  • 无人机之在农业上的用途
  • opengaussdb在oepnEuler上安装
  • 一些和颜色相关网站