当前位置: 首页 > news >正文

Spring Cloud LoadBalancer

什么是负载均衡?

如果一个服务对应多个实例,我们需要把流量合理的分配给多个实例;当服务流量增⼤时, 通常会采⽤增加机器的⽅式进⾏扩容, 负载均衡就是⽤来在多个机器或者其他资源,中, 按照⼀定的规则合理分配负载.

服务端负载均衡

⽐较有名的服务端负载均衡器是Nginx. 请求先到达Nginx负载均衡器, 然后通过负载均衡算法, 在多个服务器之间选择⼀个进⾏访问.

客户端负载均衡

把负载均衡的功能以库的⽅式集成到客⼾端, ⽽不再是由⼀台指定的负载均衡设备集中提供.
⽐如Spring Cloud的Ribbon, 请求发送到客⼾端, 客⼾端从注册中⼼(⽐如Eureka)获取服务列表, 在发 送请求前通过负载均衡算法选择⼀个服务器,然后进⾏访问.
Ribbon是Spring Cloud早期的默认实现, 由于不维护了, 所以最新版本的Spring Cloud负载均衡集成的是Spring Cloud LoadBalancer(Spring Cloud官⽅维护)
客⼾端负载均衡和服务端负载均衡最⼤的区别在于服务清单所存储的位置

使用Spring Cloud LoadBalancer实现负载均衡

1.给RestTemplate这个Bean添加@LoadBalanced注解。

2.修改远程调用代码的url的IP端口号为服务名称。

负载均衡策略

负载均衡策略是一种思想,无论哪种负载均衡器,它们的负载均衡策略都是相似的。Spring Cloud LoadBalancer仅支持两种负载均衡策略:轮询策略和随机策略。

  1. 轮询(Round Robin):轮询策略是指服务器轮流处理用户请求,这是一种实现最简单,也是最常用的策略。
  2. 随机选择(Random):这个策略是指随机选择一个后端服务器来处理新的请求。

自定义负载均衡策略

Spring Cloud LoadBalancer 默认负载均衡策略是 轮询策略, 实现是 RoundRobinLoadBalancer, 如果服务的消费者如果想采⽤随机的负载均衡策略, 也⾮常简单
  1. 自定义随机算法对象, 通过 @Bean 将其加载到 Spring 容器中
public class LoadBalancerConfig {
        @Bean
        ReactorLoadBalancer<ServiceInstance> randomLoadBalancer (Environment
environment,
LoadBalancerClientFactory loadBalancerClientFactory) {
                String name =
environment.getProperty(LoadBalancerClientFactory. PROPERTY_NAME );
                System.out.println( "==============" +name);
                return new
RandomLoadBalancer (loadBalancerClientFactory.getLazyProvider(name,
ServiceInstanceListSupplier.class), name);
        }
}

   2.使⽤ @LoadBalancerClient 或者 @LoadBalancerClients 注解在RestTemplate 配置类上⽅, 使⽤ @LoadBalancerClient 或 @LoadBalancerClients 注解, 可以对不同的服务提供⽅配置不同的客⼾端负载均衡算法策略. 

@LoadBalancerClient(name = "product-service", configuration = LoadBalancerConfig.class)
@Configuration
public class BeanConfig {
        @Bean
        @LoadBalanced
        public RestTemplate restTemplate (){
                return new RestTemplate ();
        }
}
@LoadBalancerClient 注解说明
1. name: 该负载均衡策略对哪个服务⽣效(服务提供⽅)
2. configuration : 该负载均衡策略 ⽤哪个负载均衡策略实现.

LoadBalancer原理

LoadBalancer 的实现, 主要是 LoadBalancerInterceptor , 这个类会对 RestTemplate 的请
求进⾏拦截, 然后从Eureka根据服务id获取服务列表,随后利⽤负载均衡算法得到真实的服务地址信息,替换服务id
public class LoadBalancerInterceptor implements ClientHttpRequestInterceptor {public ClientHttpResponse intercept(final HttpRequest request, final byte[] body, final ClientHttpRequestExecution execution) throws IOException { URI originalUri = request.getURI();String serviceName = originalUri.getHost();Assert.state(serviceName != null, "Request URI does not contain a valid hostname: " + originalUri);return (ClientHttpResponse)this.loadBalancer.execute(serviceName, this.requestFactory.createRequest(request, body, execution));}
}

可以看到这里的intercept方法,拦截了用户的HttpRequest请求,然后做了几件事:

1. request.getURI() : 从请求中获取uri
2. originalUri.getHost():从uri中获取路径的主机名, 也就是服务id
3. loadBalancer.execute 根据服务id, 进⾏负载均衡, 并处理请求
继续往下面看
public class BlockingLoadBalancerClient implements LoadBalancerClient {    public <T> T execute(String serviceId, LoadBalancerRequest<T> request) throws IOException {String hint = this.getHint(serviceId);LoadBalancerRequestAdapter<T, TimedRequestContext> lbRequest = new LoadBalancerRequestAdapter(request, this.buildRequestContext(request, hint));Set<LoadBalancerLifecycle> supportedLifecycleProcessors = this.getSupportedLifecycleProcessors(serviceId);supportedLifecycleProcessors.forEach((lifecycle) -> {lifecycle.onStart(lbRequest);});//根据serviceId,和负载均衡策略, 选择处理的服务ServiceInstance serviceInstance = this.choose(serviceId, lbRequest);if (serviceInstance == null) {supportedLifecycleProcessors.forEach((lifecycle) -> {lifecycle.onComplete(new CompletionContext(Status.DISCARD, lbRequest, new EmptyResponse()));});throw new IllegalStateException("No instances available for " + serviceId);} else {return this.execute(serviceId, serviceInstance, lbRequest);}}
//根据serviceId,和负载均衡策略, 选择处理的服务public <T> ServiceInstance choose(String serviceId, Request<T> request) {//获取负载均衡器ReactiveLoadBalancer<ServiceInstance> loadBalancer = this.loadBalancerClientFactory.getInstance(serviceId);if (loadBalancer == null) {return null;} else {
//根据负载均衡算法, 在列表中选择⼀个服务实例Response<ServiceInstance> loadBalancerResponse = (Response)Mono.from(loadBalancer.choose(request)).block();return loadBalancerResponse == null ? null : (ServiceInstance)loadBalancerResponse.getServer();}}

 负载均衡跟LoadBalancer就介绍到这里,如果想深入了解,可以去继续阅读源码~

http://www.lryc.cn/news/466851.html

相关文章:

  • 面向对象与设计模式第二课:设计模式实战
  • 非科班出身如何转行程序员?
  • 多台NFS客户端访问一台nfs服务器
  • 【STM32 HAL库】MPU6050姿态解算 卡尔曼滤波
  • Linux系统——ssh远程连接
  • python学习-第一个小游戏(vscode环境)
  • 程序设计基础I-单元测试2(机测)
  • Claude 3.5深夜觉醒,学会模仿人类用电脑,力压GPT-4o
  • PuTTY
  • 2024软件测试面试秘籍(含答案+文档)
  • 券商api怎么获取,如何获取券商API接口?
  • 跟着六西格玛设计DFSS走,让你的项目、服务、产品都“牛”起来——张驰咨询
  • 【2024.10.22练习】机器人塔
  • 酒店预订订房小程序源码系统 多酒店入驻+打造类似美团的酒店模式 带完整的安装代码包以及搭建部署教程
  • springboot037基于SpringBoot的墙绘产品展示交易平台的设计与实现(论文+源码)_kaic
  • YOLOv8实战人脸-口罩检测与识别【数据集+YOLOv8模型+源码+PyQt5界面】
  • 《黑神话悟空》各章节boss顺序汇总
  • rust中cargo.toml详细介绍
  • jupyter notebook 笔记
  • Atlas800昇腾服务器(型号:3000)—CANN安装(二)
  • 考研鼓励小程序
  • Wooden UI(木头UI纹理按钮边框 背景图标 带PNG素材)
  • WebRTC音频 03 - 实时通信框架
  • Maven陷阱揭秘:避开Java项目构建的10大常见误区
  • 基础数据结构思路写法记录,便于回顾
  • 基于AI的量化投资框架Qlib的Python依赖包pyqlib安装问题记录
  • 《语音识别方案选择》
  • 目标检测数据集图片及标签同步裁剪
  • 【设计模式-简单工厂】
  • 多个版本的GCC(GNU编译器集合)可以同时安装并存