当前位置: 首页 > news >正文

服务器雪崩的应对策略之----熔断机制

熔断机制(Circuit Breaker)是一种保护系统稳定性的重要手段。它的主要目的是防止系统在依赖的服务出现问题时,继续发送请求,从而保护系统免受进一步的影响。熔断机制通过监控请求的成功和失败率,在检测到故障率超过预设阈值时,自动切换到熔断状态,停止对故障服务的请求。熔断状态一段时间后,再尝试恢复服务的调用。

常见的熔断机制

  • 熔断机制的三种状态
  • 示例代码
  • 代码解读
  • 结论

熔断机制的三种状态

  1. Closed(闭合状态)

    • 正常状态下,所有请求都会被发送到依赖服务。
    • 监控请求的成功和失败情况。
  2. Open(断开状态)

    • 当故障率超过阈值时,熔断器进入断开状态。
    • 此时,所有请求都会立即失败或返回备用方案,而不会发送到依赖服务。
  3. Half-Open(半开状态)

    • 在断开状态保持一段时间后,熔断器尝试恢复部分请求。
    • 如果部分请求成功,则恢复到闭合状态;如果仍然失败,则回到断开状态。

示例代码

下面的示例代码展示了一个简单的熔断机制实现:

#include <iostream>
#include <chrono>
#include <thread>
#include <mutex>enum class CircuitBreakerState 
{Closed,Open,HalfOpen
};class CircuitBreaker 
{
public:CircuitBreaker(int failure_threshold, int recovery_timeout): state(CircuitBreakerState::Closed),failure_count(0),failure_threshold(failure_threshold),recovery_timeout(recovery_timeout) {}bool allow_request() {std::lock_guard<std::mutex> lock(mutex);auto now = std::chrono::steady_clock::now();if (state == CircuitBreakerState::Open) {if (std::chrono::duration_cast<std::chrono::milliseconds>(now - last_failure_time).count() > recovery_timeout) {state = CircuitBreakerState::HalfOpen;return true;  // Allow a limited number of requests to test recovery} else {return false;}}return true;}void record_success() {std::lock_guard<std::mutex> lock(mutex);failure_count = 0;state = CircuitBreakerState::Closed;}void record_failure() {std::lock_guard<std::mutex> lock(mutex);failure_count++;if (failure_count >= failure_threshold) {state = CircuitBreakerState::Open;last_failure_time = std::chrono::steady_clock::now();}}private:CircuitBreakerState state;int failure_count;int failure_threshold;int recovery_timeout;  // in millisecondsstd::chrono::steady_clock::time_point last_failure_time;std::mutex mutex;
};bool mock_service_call() 
{static int counter = 0;counter++;// Simulate a service that fails 50% of the timereturn counter % 2 == 0;
}int main() 
{CircuitBreaker breaker(3, 5000);  // Allow 3 failures before opening circuit, 5 seconds recovery timeoutfor (int i = 0; i < 20; ++i) {if (breaker.allow_request()) {if (mock_service_call()) {std::cout << "Request " << i << " succeeded\n";breaker.record_success();} else {std::cout << "Request " << i << " failed\n";breaker.record_failure();}} else {std::cout << "Request " << i << " blocked by circuit breaker\n";}std::this_thread::sleep_for(std::chrono::milliseconds(500));  // Simulate time between requests}return 0;
}

代码解读

  1. CircuitBreaker类:封装熔断器的状态管理逻辑。

    • allow_request():决定是否允许请求通过熔断器。
    • record_success():记录成功的请求,重置失败计数,并将状态恢复为闭合状态。
    • record_failure():记录失败的请求,增加失败计数,并在失败计数达到阈值时将状态设置为断开状态。
  2. mock_service_call():模拟依赖服务的请求。这里简单地模拟了一个服务,它有50%的概率失败。

  3. main函数:模拟一系列请求,并展示熔断机制如何工作。

结论

熔断机制是一种有效的保护系统的方法,尤其是在依赖外部服务时。通过合理的熔断配置,可以避免系统因为外部服务故障而陷入崩溃状态,从而提升系统的稳定性和可靠性。

http://www.lryc.cn/news/377134.html

相关文章:

  • RestClient操作索引库和文档
  • 【设计模式深度剖析】【11】【行为型】【解释器模式】| 以算术表达式求值为例加深理解
  • MySQL8,Navicat能登陆成功,密码却忘记了
  • 游戏中的寻路算法研究
  • 【AWS SMB】关于AWS 中小型企业 (SMB) 能力介绍及注意事项
  • 中年之恋:重返青春的旅程
  • 人工智能中的监督学习和无监督学习
  • 深度学习500问——Chapter12:网络搭建及训练(1)
  • HuggingFace CLI 命令全面指南
  • FreeRTOS源码分析
  • python实战:将视频内容上传到社交媒体平台
  • 【深度学习】sdwebui A1111 加速方案对比,xformers vs Flash Attention 2
  • 5分钟了解单元测试
  • VSCode之C/C++插件之宏定义导致颜色变暗
  • 自然语言处理概述
  • 用Rust和Pingora轻松构建超越Nginx的高效负载均衡器
  • 华为云与AWS负载均衡服务深度对比:性能、成本与可用性
  • Vue65-组件之间的传值
  • Java零基础之多线程篇:线程生命周期
  • 技术差异,应用场景;虚拟机可以当作云服务器吗
  • Qt Quick 教程(一)
  • react钩子函数用法(useCallback、useMemo)
  • linux配置Vnc Server给Windows连接
  • Android中的KeyEvent详解
  • 移植案例与原理 - HDF驱动框架-驱动配置(2)
  • 年终奖发放没几天,提离职领导指责我不厚道,我该怎么办?
  • 多处理系统结构
  • 创建进程的常用方式
  • 李宏毅2023机器学习作业HW06解析和代码分享
  • 专业技能篇--算法