当前位置: 首页 > news >正文

redis中使用bloomfilter的白名单功能解决缓存穿透问题

一 缓存预热

1.1 缓存预热

将需要的数据提前缓存到缓存redis中,可以在服务启动时候,或者在使用前一天完成数据的同步等操作。保证后续能够正常使用。

1.2 缓存穿透

在redis中,查询redis缓存数据没有内容,接着查询mysql数据库,也没有需要的内容,做了两次无用的查询。进而造成mysql数据库的负担,造成一系列的风险。

解决办法:bloomfilter+白名单实现过滤。

1.3 白名单的作用

白名单里面有才让允许通过,没有的内容则不允许通过。但是存在误判的情况,比如bloomfilter中存在查询的内容且允许通过,但是并不是我们真正需要的那个内容。

 1.4 白名单入门案例

public class WhiteList {public static void main(String[] args) {testGuavaWithBloomFilter();}public static void testGuavaWithBloomFilter(){//1 创建guava版布隆过滤器BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), 100);//2 判断指定的元素是否存在System.out.println(bloomFilter.mightContain(1));System.out.println(bloomFilter.mightContain(2));System.out.println();//3 讲元素新增进入bloomfilterbloomFilter.put(1);bloomFilter.put(2);System.out.println(bloomFilter.mightContain(1));System.out.println(bloomFilter.mightContain(2));}
}

结果:

1.5 白名单+过滤器的实现案例

逻辑:   guava布隆过滤器插入100万样本数据并额外10W测试是否存在,这10w的数据在100w的数据可能存在相同的情况,存储到相同位置。比如规则为m%3,则 1,4,7放到同一个位置槽中。

 1.5.1 代码逻辑

1.controller

@RestController
@Slf4j
public class GuvaFilter {@Resourceprivate GuavaBloomFilterService guavaBloomFilterService;@ApiOperation("guava布隆过滤器插入100万样本数据并额外10W测试是否存在")@RequestMapping(value = "/guavafilter",method = RequestMethod.GET)public void guavaBloomFilter(){guavaBloomFilterService.guavaBloomFilter();}
}

2.service

@Service
@Slf4j
public class GuavaBloomFilterService
{//1 定义一个常量public static final int _1W = 10000;//2 定义我们guava布隆过滤器,初始容量public static final int SIZE = 100 * _1W;//3 误判率,它越小误判的个数也就越少(思考,是否可以是无限小??没有误判岂不是更好)public static double fpp = 0.01;//0.01 0.000000000000001//4 创建guava布隆过滤器private static BloomFilter<Integer> bloomFilter = BloomFilter.create(Funnels.integerFunnel(), SIZE,fpp);public void guavaBloomFilter(){//1 先让bloomFilter加入100W白名单数据for (int i = 1; i <= SIZE  ; i++) {bloomFilter.put(i);}//2 故意取10W个不在合法范围内的数据,来进行误判率的演示ArrayList<Integer> list = new ArrayList<>(10 * _1W);//3 验证for (int i = SIZE+1; i <= SIZE+(10 * _1W) ; i++){if(bloomFilter.mightContain(i)){log.info("被误判了:{}",i);list.add(i);}}log.info("误判总数量:{}",list.size());}
}

3.截图

控制台打印日志:

1.7 bloomfilter总结

bloomfilter作用:查询的内容A,一定不存在,在过滤器中查询肯定没有;如果存在,但是存在误判的情况,但是误判率很小,可以忽略。

1.7 黑名单的使用

黑名单:在黑名单的存在的内容,就不再推荐;不存在则推荐。

应用案例: 抖音等媒体的推荐内容。

http://www.lryc.cn/news/101636.html

相关文章:

  • Spring Boot 2.7.8以后mysql-connector-java与mysql-connector-j
  • 03|「如何写好一个 Prompt」
  • 关于提示词 Prompt
  • 【Linux多线程】线程的互斥与同步(附抢票案例代码+讲解)
  • ajax概述
  • 小白带你学习linux的mysql服务(主从mysql服务和读写分离三十一)
  • 【低代码专题方案】iPaaS运维方案,助力企业集成平台智能化高效运维
  • Android SDK 上手指南||第一章 环境需求||第二章 IDE:Eclipse速览
  • Amazon Linux上使用ec2-user来设置开机自启动的shell脚本
  • 【Spring】Spring 下载及其 jar 包
  • 蓝桥杯2023年第十四届省赛-飞机降落
  • STM32 串口实验(学习一)
  • 多臂治疗规则的 Qini 曲线(Stefan Wager)
  • NOSQL之Redis配置及优化
  • 植物一区HR | 植物生理组+转录组:揭示豆科植物响应干旱胁迫机制
  • TCP粘包问题
  • QT【day1】
  • 【Golang】Golang进阶系列教程--为什么 Go 不支持 []T 转换为 []interface
  • 两数相加 II——力扣445
  • js获取上传视频的封面第一帧
  • Nginx 高可用负载均衡(三种模式)
  • Linux tail命令
  • 【屏幕适配发展介绍 Objective-C语言】
  • linux中ls命令详解
  • 大盗阿福(记忆化搜索板子)
  • 打卡力扣题目八
  • matlab使用教程(5)—矩阵定义和基本运算
  • 用HTML写一个简单的静态购物网站
  • 如何在go中实现程序的优雅退出,go-kratos源码解析
  • Appium+python自动化(二十八)- 高级滑动(超详解)