当前位置： 首页 > article >正文

如何设计一个二级缓存（Redis+Caffeine）架构？Redis 6.0多线程模型如何工作？

article 2025/9/14 6:29:09

一、二级缓存（Redis+Caffeine）架构设计

1. 设计目标

通过「本地缓存（Caffeine）+ 分布式缓存（Redis）」的分层结构，实现：

  • 低延迟：热点数据本地缓存（内存级访问），减少网络IO；
  • 高可用：分布式缓存避免单点故障；
  • 成本优化：本地缓存存储高频小数据，Redis存储全量数据，降低内存成本。
2. 核心组件
组件作用关键配置示例
Caffeine本地缓存（JVM内存），存储高频热点数据maximumSize=10000, expireAfterWrite=5m（大小+过期策略）
Redis分布式缓存（远程内存），存储全量数据，提供持久化启用RDB/AOF，设置合理maxmemory-policy（如LRU）
缓存加载策略缓存未命中时的加载逻辑（如同步加载、异步加载）同步加载：直接查DB；异步加载：先返回旧值+后台更新
一致性机制解决双写/失效不一致问题发布订阅（更新时通知其他节点清理本地缓存）、TTL（兜底）
3. 核心流程（读请求）
命中
未命中
命中
未命中
客户端请求
查本地缓存Caffeine
返回数据
查Redis
返回数据并更新本地缓存
查数据库
返回数据并更新Redis和本地缓存
4. 注意事项
  • 缓存穿透：对空值（如DB不存在的key）也缓存（设置短TTL）；
  • 缓存击穿：热点key过期时，使用互斥锁（如Redis的setnx）避免大量请求打穿DB；
  • 内存控制：Caffeine通过maximumSize或maximumWeight限制内存，避免OOM；
  • 一致性：写操作时先更新DB，再删除/更新缓存（推荐「先删缓存，再更新DB」+ 延迟双删）。
方案痛点
一、核心不一致场景分析

可能导致不一致的典型场景：

  1. 写操作顺序问题：更新数据库后未及时更新/删除缓存，导致后续读请求读取到旧缓存值；
  2. 并发写冲突：多个线程同时更新数据库和缓存，导致缓存与数据库最终状态不一致；
  3. 本地缓存隔离：分布式系统中，不同节点的本地缓存（Caffeine）可能因未同步而持有旧数据。
二、缓存失效策略设计
1. 主动失效（优先策略）

通过显式删除/更新缓存确保一致性，适用于对一致性要求高的场景（如订单状态变更）。

流程设计（写操作）：

graph TDA[更新数据库] --> B{删除Redis缓存}B --> C[发布「缓存失效」事件（Redis Pub/Sub）]C --> D[各节点订阅事件后删除本地Caffeine缓存]

关键实现细节：

  • 先更新数据库，再删除缓存（而非先删缓存）：避免因数据库更新失败导致缓存被删后无数据可用；
  • Redis Pub/Sub通知：写操作完成后，通过Redis发布事件（如频道cache_invalidate），内容为失效的key列表；
  • 本地缓存监听：每个服务节点订阅该频道，收到事件后立即调用Caffeine.invalidate(key)删除本地缓存。
2. 被动过期（兜底策略）

通过设置**TTL（生存时间）**作为最终一致性的保障，适用于对一致性要求稍低但性能敏感的场景（如商品详情）。

配置示例：

  • Caffeine：设置expireAfterWrite=5m（写入5分钟后过期），避免长期持有旧数据；
  • Redis：设置TTL=10m（比Caffeine长，确保Redis过期前本地缓存已先过期），防止本地缓存失效后Redis仍存旧值。
3. 防并发不一致：延迟双删

针对高并发场景下“删除缓存→更新数据库→新请求读缓存”的时间窗口问题，采用延迟双删策略：
作用：
前置删除：减少用户读到脏数据的时间窗，比如只有后置删除的情况下，数据更新了，缓存还没更新，先删一次减少脏数据时间窗。
后置删除：这个删除才是缓存-数据库最终一致的关键，这里是保证数据库完成操作后，发出补偿操作删除缓存来达成最终一致性。
其实如果只保证最终一致性的话，只需要后删，可以看业务体验是否能接受加入前置删除。

// 伪代码示例（Java）
public void updateData(String key, Object newData) {// 1. 先删除本地缓存和Redis缓存caffeineCache.invalidate(key);redisTemplate.delete(key);// 2. 更新数据库database.update(newData);// 3. 延迟（如1秒）后再次删除缓存（避免步骤2执行期间有新请求将旧数据加载到缓存）new Thread(() -> {try {Thread.sleep(1000);caffeineCache.invalidate(key);redisTemplate.delete(key);} catch (InterruptedException e) {Thread.currentThread().interrupt();}}).start();
}
三、一致性增强补充
  • 缓存加载互斥：读缓存未命中时，使用Redis分布式锁（如Redisson的RLock）限制只有一个线程加载数据库数据，避免大量请求同时打穿数据库；
  • 空值缓存：对数据库不存在的key（缓存穿透场景），在Caffeine和Redis中缓存null（设置短TTL，如30秒），避免重复查询数据库；
  • 监控报警：通过Prometheus+Grafana监控缓存命中率、过期次数、Pub/Sub消息延迟，及时发现一致性异常。
四、代码示例（Spring Boot整合）
1. Caffeine配置（主动失效）
import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.concurrent.TimeUnit;@Configuration
public class CaffeineConfig {@Beanpublic Cache<String, Object> caffeineCache() {return Caffeine.newBuilder().maximumSize(10000) // 最大容量.expireAfterWrite(5, TimeUnit.MINUTES) // 写后5分钟过期（被动兜底）.build();}
}
2. Redis Pub/Sub监听（主动通知）
import org.springframework.data.redis.connection.Message;
import org.springframework.data.redis.connection.MessageListener;
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.stereotype.Component;
import javax.annotation.Resource;@Component
public class RedisCacheListener implements MessageListener {@Resourceprivate Cache<String, Object> caffeineCache;@Overridepublic void onMessage(Message message, byte[] pattern) {String invalidKey = new String(message.getBody());// 收到事件后删除本地缓存caffeineCache.invalidate(invalidKey); }
}
3. 写操作服务类（延迟双删）
import org.springframework.data.redis.core.RedisTemplate;
import org.springframework.stereotype.Service;
import javax.annotation.Resource;
import java.util.concurrent.TimeUnit;@Service
public class DataService {@Resourceprivate RedisTemplate<String, Object> redisTemplate;@Resourceprivate Cache<String, Object> caffeineCache;public void updateData(String key, Object newData) {// 1. 首次删除缓存caffeineCache.invalidate(key);redisTemplate.delete(key);// 2. 更新数据库（伪代码）database.update(newData);// 3. 延迟1秒后二次删除new Thread(() -> {try {TimeUnit.SECONDS.sleep(1);caffeineCache.invalidate(key);redisTemplate.delete(key);} catch (InterruptedException e) {Thread.currentThread().interrupt();}}).start();}
}

二、Redis 6.0多线程模型解析

1. 背景：单线程的瓶颈

Redis 5.0及之前采用「单线程+IO多路复用」模型，优势是避免多线程竞争（如锁开销），但瓶颈在于：

  • 网络IO处理能力受限于单线程（尤其是高并发场景，如10万+ QPS）；
  • 大键值对的序列化/反序列化可能阻塞主线程。
2. 多线程的核心设计

Redis 6.0引入多线程处理网络IO，但命令执行仍保持单线程（保证原子性）。具体流程：

graph TDA[主线程] --> B[监听端口，接收新连接]B --> C[将连接分配给IO线程池（默认4个线程）]C --> D[IO线程读取请求数据（read）并解析]D --> E[将解析后的命令放回主线程任务队列]E --> F[主线程单线程执行命令（核心逻辑）]F --> G[IO线程将响应写回客户端（write）]
3. 关键特性
  • IO线程仅处理网络IO：不参与命令执行，避免多线程竞争；
  • 可配置线程数：通过io-threads（默认4）和io-threads-do-reads（是否启用读IO多线程）控制；
  • 向后兼容：单线程模式仍可用（关闭io-threads-do-reads）。
4. 优势与限制
  • 优势：提升网络IO吞吐量（实测QPS可提升50%+）；
  • 限制：命令执行仍是单线程，无法利用多核CPU处理计算密集型操作（如大量KEYS命令）。
http://www.lryc.cn/news/2380214.html

相关文章：

  • Java：logback-classic与slf4j版本对应关系
  • 【OpenGL学习】（一）创建窗口
  • AI大语言模型评测体系演进与未来展望
  • 微服务项目-＞在线oj系统(Java版 - 5)
  • disryptor和rabbitmq
  • HTTP与HTTPS协议的核心区别
  • Flink 并行度的设置
  • 【微服务】SpringBoot + Docker 实现微服务容器多节点负载均衡详解
  • get请求使用数组进行传参
  • 20. 自动化测试框架开发之Excel配置文件的IO开发
  • 【MySQL成神之路】MySQL常用语法总结
  • Linux动静态库制作与原理
  • 确保高质量的音视频通话，如何最大化利用视频带宽
  • ffmpeg 把一个视频复制3次
  • GPT/Claude3国内免费镜像站更新 亲测可用
  • AI自动化工作流：开启当下智能生产力的价值
  • stm32——EXTI外部中断
  • Python：操作Excel按行写入
  • Redis进阶知识
  • Python机器学习笔记（二十三 模型评估与改进-网格搜索）
  • 12.vue整合springboot首页显示数据库表-实现按钮：【添加修改删除查询】
  • bisheng系列（一）- 本地部署（Docker）
  • 如何用Python批量解压ZIP文件？快速解决方案
  • DriveGenVLM：基于视觉-语言模型的自动驾驶真实世界视频生成
  • JavaScript 中的五种继承方式进行深入对比
  • 企业标准信息公共服务平台已开放标准通编辑器访问入口
  • [Linux]安装吧！我的软件包管理器！
  • Spring Boot 与 RabbitMQ 的深度集成实践（三）
  • 进阶-数据结构部分：1、数据结构入门
  • React 19中useContext不需要Provider了。