当前位置: 首页 > news >正文

限流定义、算法、实施方案

限流定义

  1、  时间 , 基于某段时间或某个时间点,即:时间窗口

   2、资源: 对可用资源进行限制: QPS/连接数/传输速率/黑白名单等

分布式环境下,主流限流方案:
网关层限流:流量入口Nginx/Gateway/Zuul

中间件限流:如利用redis过期特性,每秒10个请求,结合lua进行脚本编程

限流组件:sentinel

限流算法

1、令牌桶

   把令牌放到桶中,拿到令牌的请求被执行,否则丢弃。另,有恒定的速率把令牌放入桶中

2、漏桶

把请求放到桶中,以恒定的速率漏出请求。

优点:不会有突发流量,对后台服务输出的访问速率恒定

3、滑动窗口

计数器方案。一定时间内的访问总量。时间窗口越多,限流效果越平滑。

具体的实现限流的手段

---转载

1)Tomcat 使用 maxThreads来实现限流。

2)Nginx的limit_req_zone和 burst来实现速率限流。

3)Nginx的limit_conn_zone和 limit_conn两个指令控制并发连接的总数。

4)时间窗口算法借助 Redis的有序集合可以实现。

        限流之redis 有序集合(zset)实现滑动窗口_redistemplate zadd-CSDN博客

5)漏桶算法可以使用Redis-Cell来实现。

6)令牌算法可以解决Google的guava包来实现。

需要注意的是借助Redis实现的限流方案可用于分布式系统,而guava实现的限流只能应用于单机环境。如果你觉得服务器端限流麻烦,可以在不改任何代码的情况下直接使用容器限流(Nginx或Tomcat),但前提是能满足项目中的业务需求。

Tomcat限流

Tomcat 8.5 版本的最大线程数在 conf/server.xml 配置中,maxThreads 就是 Tomcat 的最大线程数,当请求的并发大于此值(maxThreads)时,请求就会排队执行,这样就完成了限流的目的。

http://www.lryc.cn/news/367961.html

相关文章:

  • [312. 戳气球] 动态规划寻找转移函数
  • 以操作系统和Java的视角看“中断“
  • 【运维】如何在Ubuntu 22上使用Python 3.8的虚拟环境
  • 门面模式Api网关(SpringCloudGateway)
  • 玩转Matlab-Simscape(初级)- 09 - 在Simulink中创建曲柄滑块机构的控制模型
  • 手撸一个java网关框架
  • 亮数据代理IP助力高效数据采集
  • VS2022,DLL1调用lib,lib调用DLL2
  • Unity Mirror VR联机开发 房间篇
  • 二叉树—leetcode
  • shell编程(二)——字符串与数组
  • 【数据结构】二叉树专题
  • 开源模型应用落地-LangChain高阶-LCEL-表达式语言(四)
  • Python第二语言(九、Python第一阶段实操)
  • Java异常机制
  • Aws EC2,kubeadm方式安装kubernetes(k8s)
  • python 比较 mysql 表结构差异
  • 【RAG入门教程01】Langchian框架 v0.2介绍
  • python 做成Excel并设置打印区域
  • SpringAI(二)
  • 小白都可以通过U盘重装系统,再也不用花50块钱去安装系统啦
  • android 双屏异显-学习笔记
  • Android Lottie 体积优化实践:从 6.4 MB 降到 530 KB
  • Django前端页面-模板继承
  • 使用HTML、CSS和JavaScript编写一个注册界面(一)
  • 什么是档案数字化管理
  • vuInhub靶场实战系列--prime:1
  • L48---1637. 两点之间不包含任何点的最宽垂直区域(排序)---Java版
  • 在线渲染3d怎么用?3d快速渲染步骤设置
  • 《软件定义安全》之二:SDN/NFV环境中的安全问题