当前位置: 首页 > news >正文

Hystrix和Sentinel熔断降级设计理念

目录

  • 1 基本介绍
  • 2 Hystrix信号量和线程池区别
    • 2.1 信号量模式
    • 2.2 线程池模式
    • 2.3 注意
  • 3 Sentinel介绍


1 基本介绍

在这里插入图片描述

Sentinel 和 Hystrix 的原则是一致的: 当检测到调用链路中某个资源出现不稳定的表现,例如请求响应时间长或异常比例升高的时候,则对这个资源的调用进行限制,让请求快速失败,避免影响到其它的资源而导致级联故障。

Sentinel 对这个问题采取了两种手段:

通过并发线程数进行限制
和资源池隔离的方法不同,Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。这样不但没有线程切换的损耗,也不需要您预先分配线程池的大小。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。

针对慢调用和异常对资源进行降级
除了对并发线程数进行控制以外,Sentinel 还可以根据响应时间和异常等不稳定因素来快速对不稳定的调用进行熔断。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新渐进式地恢复。

系统自适应保护

Sentinel 同时提供系统维度的自适应保护能力。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。

针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。

而Hystrix内部提供了两种模式执行逻辑:信号量、线程池。

在这里插入图片描述

img

2 Hystrix信号量和线程池区别

来自hystrix官网
默认情况下,Hystrix使用线程池模式。
不过两者有什么区别,在实际场景中如何选择?

img

如果要使用信号量模式,需要配置参数execution.isolation.strategy =ExecutionIsolationStrategy.SEMAPHORE.

2.1 信号量模式

在该模式下,接收请求和执行下游依赖在同一个线程内完成,不存在线程上下文切换所带来的性能开销,所以大部分场景应该选择信号量模式,但是在下面这种情况下,信号量模式并非是一个好的选择。

比如一个接口中依赖了3个下游:serviceA、serviceB、serviceC,且这3个服务返回的数据互相不依赖,这种情况下如果针对A、B、C的熔断降级使用信号量模式,那么接口耗时就等于请求A、B、C服务耗时的总和,无疑这不是好的方案。

另外,为了限制对下游依赖的并发调用量,可以配置Hystrix的execution.isolation.semaphore.maxConcurrentRequests,当并发请求数达到阈值时,请求线程可以快速失败,执行降级。

img

实现也很简单,一个简单的计数器,当请求进入熔断器时,执行tryAcquire(),计数器加1,结果大于阈值的话,就返回false,发生信号量拒绝事件,执行降级逻辑。当请求离开熔断器时,执行release(),计数器减1。

2.2 线程池模式

在该模式下,用户请求会被提交到各自的线程池中执行,把执行每个下游服务的线程分离,从而达到资源隔离的作用。当线程池来不及处理并且请求队列塞满时,新进来的请求将快速失败,可以避免依赖问题扩散。

在信号量模式提到的问题,对所依赖的多个下游服务,通过线程池的异步执行,可以有效的提高接口性能。

优势

  • 减少所依赖服务发生故障时的影响面,比如ServiceA服务发生异常,导致请求大量超时,对应的线程池被打满,这时并不影响ServiceB、ServiceC的调用。
  • 如果接口性能有变动,可以方便的动态调整线程池的参数或者是超时时间,前提是Hystrix参数实现了动态调整。

缺点

  • 请求在线程池中执行,肯定会带来任务调度、排队和上下文切换带来的开销。
  • 因为涉及到跨线程,那么就存在ThreadLocal数据的传递问题,比如在主线程初始化的ThreadLocal变量,在线程池线程中无法获取

2.3 注意

因为Hystrix默认使用了线程池模式,所以对于每个Command,在初始化的时候,会创建一个对应的线程池,如果项目中需要进行降级的接口非常多,比如有上百个的话,不太了解Hystrix内部机制的同学,按照默认配置直接使用,可能就会造成线程资源的大量浪费。

3 Sentinel介绍

Spring cloud Alibaba Sentinel:https://blog.csdn.net/ZGL_cyy/article/details/130874410

SpringCloud Sentinel实战限流熔断降级应用:https://blog.csdn.net/ZGL_cyy/article/details/130874410

SpringCloud Sentinel集成Gateway和实时监:https://blog.csdn.net/ZGL_cyy/article/details/130874653

http://www.lryc.cn/news/165856.html

相关文章:

  • 获取Windows 10中的照片(旧版)下载
  • 【Redis】Redis作为缓存
  • IDEA(2023)解决运行乱码问题
  • 零基础学前端(二)用简单案例去理解 HTML 、CSS 、JavaScript 概念
  • 线性矩阵不等式(LMI)在控制理论中的应用
  • 如何在Python爬虫程序中使用HTTP代理?
  • ARM架构指令集--专用指令
  • 免费IP类api接口:含ip查询、ip应用场景查询、ip代理识别、IP行业查询...
  • Android Studio 中AGP ,Gradle ,JDK,SDK都是什么?
  • 算法通关18关 | 回溯模板如何解决复原IP问题
  • Layui快速入门之第五节 导航
  • 使用分支——Git Checkout
  • 【2023】数据挖掘课程设计:基于TF-IDF的文本分类
  • java.lang.NoSuchMethodError: java.lang.reflect.Field.trySetAccessible()Z
  • 如何使用SQL系列 之 如何在MySQL中使用存储过程
  • 用 Github Codespaces 免费搭建本地开发测试环境
  • PyTorch实战-实现神经网络图像分类基础Tensor最全操作详解(一)
  • 第29章_瑞萨MCU零基础入门系列教程之改进型环形缓冲区
  • 如何搭建一个react项目(详细介绍)
  • ActiveMQ用法
  • TouchGFX之缓存位图
  • 线性代数的本质(十)——矩阵分解
  • vue实现鼠标拖拽div左右移动的功能
  • 基于Python和mysql开发的商城购物管理系统分为前后端(源码+数据库+程序配置说明书+程序使用说明书)
  • MySQL内外连接、索引特性
  • 滚动条设置
  • 【AI】机器学习——感知机
  • 蓝牙遥控器在T2-U上的应用
  • 数据驱动的数字营销与消费者运营
  • Qt点亮I.MX6U开发板的一个LED