当前位置: 首页 > news >正文

06-限流策略有哪些,滑动窗口算法和令牌桶区别,使用场景?【Java面试题总结】

限流策略有哪些,滑动窗口算法和令牌桶区别,使用场景?

常见的限流算法有固定窗口、滑动窗口、漏桶、令牌桶等。

6.1 固定窗口

概念:固定窗口(又称计算器限流),对一段固定时间窗口内的请求进行一个计数,如果请求数量超过阈值,就会舍弃这个请求,如果没有达到设定阈值,就直接接受这个请求。

public class FixedWindowRateLimiter1 {private final int windowSize;private final int limit;private final AtomicInteger count;private final ReentrantLock lock;public FixedWindowRateLimiter1(int windowSize, int limit) {this.windowSize = windowSize;this.limit = limit;this.count = new AtomicInteger(0);this.lock = new ReentrantLock();}public boolean allowRequest() {lock.lock();try {long currentTimestamp = Instant.now().getEpochSecond();int currentCount = count.get();if (currentCount < limit) {count.incrementAndGet();return true;} else {return false;}} finally {lock.unlock();}}public static void main(String[] args) throws InterruptedException {FixedWindowRateLimiter1 rateLimiter = new FixedWindowRateLimiter1(5, 3);// 测试通过的请求for (int i = 0; i < 10; i++) {if (rateLimiter.allowRequest()) {System.out.println("Request " + (i + 1) + ": Allowed");} else {System.out.println("Request " + (i + 1) + ": Denied");}TimeUnit.SECONDS.sleep(1);}}
}

在上述代码中,我们引入了 ReentrantLockAtomicInteger,分别用于保证线程安全的访问和原子的计数操作。通过在 allowRequest() 方法中使用 lock 对关键代码段进行加锁和解锁,确保同一时间只有一个线程能够进入关键代码段。使用 AtomicInteger 来进行计数操作,保证计数的原子性。

6.2 滑动窗口

概念:滑动窗口算法是一种基于时间窗口的限流算法,它将时间划分为固定大小的窗口,并统计每个窗口内的请求数量。算法维护一个滑动窗口,窗口内的位置表示当前时间片段,每个位置记录该时间片段内的请求数量。当请求到达时,算法会根据当前时间判断应该归入哪个时间片段,并检查该时间片段内的请求数量是否超过限制。

以滑动窗口算法为例,每秒最多允许通过3个请求

public class SlidingWindowRateLimiter {private final int limit; // 限流阈值private final int interval; // 时间窗口长度private final AtomicLong counter; // 计数器private final long[] slots; // 时间窗口内每个时间片段的请求数量private long lastTimestamp; // 上次请求时间private long currentIntervalRequests; // 当前时间窗口内的请求数量public SlidingWindowRateLimiter(int limit, int interval) {this.limit = limit;this.interval = interval;this.counter = new AtomicLong(0);this.slots = new long[interval];this.lastTimestamp = System.currentTimeMillis();this.currentIntervalRequests = 0;}public boolean allowRequest() {long currentTimestamp = System.currentTimeMillis();if (currentTimestamp - lastTimestamp >= interval) {// 超过时间窗口,重置计数器和时间窗口counter.set(0);slots[0] = 0;lastTimestamp = currentTimestamp;currentIntervalRequests = 0;}// 计算请求数量long currentCount = counter.incrementAndGet();if (currentCount <= limit) {// 未达到阈值,请求通过slots[(int) (currentCount - 1)] = currentTimestamp;currentIntervalRequests++;return true;}// 达到阈值,判断最早的时间片段是否可以通过long earliestTimestamp = slots[0];if (currentTimestamp - earliestTimestamp >= interval) {// 最早的时间片段超过时间窗口,重置计数器和时间窗口counter.set(0);slots[0] = 0;lastTimestamp = currentTimestamp;currentIntervalRequests = 0;return true;}return false;}public long getRequestsPerSecond() {return currentIntervalRequests * 1000 / interval;}
}
public class SlidingWindowRateLimiterTest {public static void main(String[] args) throws InterruptedException {// 创建一个限流器,限制每秒最多通过3个请求SlidingWindowRateLimiter rateLimiter = new SlidingWindowRateLimiter(3, 1000);// 模拟连续发送请求long startTime = System.nanoTime();for (int i = 1; i <= 10; i++) {if (rateLimiter.allowRequest()) {System.out.println("Request " + i + " allowed");} else {System.out.println("Request " + i + " blocked");}Thread.sleep(100); // 模拟请求间隔时间}System.out.println((System.nanoTime()-startTime)/1000000000.0);}
}

image-20230831002052894

6.3 令牌桶算法

概念:令牌桶算法基于令牌的发放和消耗机制,令牌以固定的速率被添加到令牌桶中。每个请求需要消耗一个令牌才能通过,当令牌桶中的令牌不足时,请求将被限制。令牌桶算法可以平滑地限制请求的通过速率,对于突发流量有较好的处理能力。

http://www.lryc.cn/news/153160.html

相关文章:

  • 2021年06月 C/C++(六级)真题解析#中国电子学会#全国青少年软件编程等级考试
  • Tuxera NTFS for Mac2023苹果电脑Mac硬盘读写工具
  • 系统调用的过程
  • Python将多个文件的名称或后缀名由大写字母修改为小写的方法
  • Debezium的三种部署方式
  • 通讯协议057——全网独有的OPC HDA知识一之接口(十二)IOPCHDA_DataCallback
  • 后端SpringBoot+前端Vue前后端分离的项目(一)
  • docker 安装 MySQL5.7
  • 分布式session的4种解决方案
  • SQL Server2008下载地址
  • MySQL函数和约束
  • 关于一个git的更新使用流程
  • vue 对后端返回字段值为null的变成空字符串
  • C++,菱形继承和虚继承
  • js实现一行半文本的截取
  • 计算一个区间时间差值,时间保留剩下的差值
  • uniapp 微信小程序添加隐私保护指引
  • 行业追踪,2023-08-30
  • Redis——》Redis的部署方式对分布式锁的影响
  • VTK——使用包围盒切割医学图像
  • 在工具提示中使用自绘修改字体
  • 【Git管理工具】使用Docker部署GitLab服务器
  • 安装kali虚拟机镜像的坑
  • 【Android】TextView适配文本大小并保证中英文内容均在指定的UI 组件内部
  • 【力扣每日一题】2023.8.31 一个图中连通三元组的最小度数
  • C语言--volatile
  • 技术深入解析与教程:网络安全技术探秘
  • Android studio 实现生成二维码和扫描二维码
  • Linux中7种文件类型
  • 基础算法--快速排序