当前位置: 首页 > news >正文

LruCache(本地cache)生产环境中遇到的问题及改进

问题:单机qps增加时请求摘要后端,耗时也会增加,因为超过了后端处理能力(最大qps,存在任务堆积)。

  • 版本一
    引入LruCache。为了避免数据失效,cache数据的时效性要小于摘要后端物料的更新时间,设置0.8倍的过期时间。写cache时将数据更新的时间戳一起缓存下来,读cache时计算当前时间与时间戳的差值是否超过过期时间,如果过期清空缓存数据。
    如何防止大量缓存数据一起失效?

问题:并发读写的LruCache使用锁保护,单机qs过高时锁竞争严重,很多时间消耗在锁等待上,导致耗时增长。

  • 版本二
    Cache分片,引入key的哈希函数,将数据分散到不同分片上,减小临界区,降低锁的竞争。分片数可以与线程数保持一致。

  • 版本三
    读cache时使用零拷贝机制,对缓存数据增加原子变量的引用计数,每次获取数据时引用计数+1,释放数据时-1,计数为0且达到过期时间时从cache中清除,防止内存泄漏。

http://www.lryc.cn/news/505611.html

相关文章:

  • 智慧公交指挥中枢,数据可视化 BI 驾驶舱
  • 【计算机网络】期末考试预习复习|上
  • YOLOv8目标检测(四)_图片推理
  • AI工具如何深刻改变我们的工作与生活
  • springboot中——Logback介绍
  • 【Tomcat】第一站:理解tomcat与Socket
  • TQ15EG开发板教程:使用SSH登录petalinux
  • Java从入门到工作4 - MySQL
  • OpenShift 4 - 多云管理(2) - 配置多集群观察功能
  • 【鸿睿创智开发板试用】RK3568 NPU的人工智能推理测试
  • iOS swift开发系列 -- tabbar问题总结
  • 四、CSS3
  • Three使用WebGPU的关键TSL
  • ESP32-S3模组上跑通ES8388(30)
  • 概率论得学习和整理24:EXCEL的各种图形,统计图形
  • WPF中依赖属性的底层和普通属性的底层有什么不一样
  • 【Qt】drawText字体大小问题探究
  • Mapbox-GL 的源码解读的一般步骤
  • 【C++】高级分析 switch 语句的应用
  • 活动预告 | Surface 来了#11:Windows 11 AI+ PC,释放 AI 办公设备的无限潜能
  • php基础:正则表达式
  • go语言压缩[]byte数据为zlib格式的时候,耗时较多,应该怎么修改?
  • [机器学习]AdaBoost(数学原理 + 例子解释 + 代码实战)
  • 深入了解Spring
  • jar 包如何下载
  • ESlint代码规范,手动与自动修复
  • 利用编程获得money?
  • 设计规规范:【App 配色】
  • react 使用 PersistGate 白屏解决方案
  • F5中获取客户端ip地址(client ip)