当前位置: 首页 > news >正文

zuul的性能调优

文章目录

    • zuul的性能调优
      • Zuul参数剖析
      • semaphore(信号量)
      • ribbon
      • hystrix
      • 高并发下常见Zuul异常
      • 熔断
    • zuul 1.x 与2.x的区别与总结

zuul的性能调优

在项目实践中,使用jemeter多线程并发访问微服务中的接口时候,在Zuul层出现异常、超时等,从而导致整个请求失败。经过实践,通过调整Zuul的参数、设计高可用架构等可提升TPS、QPS。

Zuul参数剖析

zuul下的routes节点可配置路由转发规则
设置全局ribbon


ribbon:ReadTimeout: 60000ConnectTimeout: 60000MaxAutoRetriesNextServer: 1MaxAutoRetries: 1  

设置单个路由

zuul:routes:echo:path:/ myusers / **serviceId:myusers-servicestripPrefix:truemyusers-service:ribbon:#负载NIWSServerListClassName:com.netflix.loadbalancer.ConfigurationBasedServerListlistOfServers:http://example1.com,http://example2.comConnectTimeout:1000 ReadTimeout:3000 MaxTotalHttpConnections:500 MaxConnectionsPerHost:100

如上面的配置,HTTP请求中满足 /myusers/** 规则转发到myuser-service服务。结合ribbon,可支持myusers-service多实例的动态负载。实际项目中可集成eureka或者consul等自动获取listOfServers(多实例服务hosts列表)。

semaphore(信号量)

在spring cloud Zuul中有2种对路由的隔离机制,其默认的是信号量(semaphore)对路由做隔离,默认值是100,当一个路由请求的信号量高于100就返回500。

zuul:semaphore:max-semaphores: 5000 #设置全部路由最大信号量routes:orchestration:service-id: orchestration
resource-manager:service-id: resource-managersemaphore:max-semaphores: 5000 #针对单个服务的路由设置最大信号量

设置信号量,可在Zuul节点下对所有路由统一设置信号量(semaphore)大小,在实际项目中推荐为每个服务设置不同的信号量(semaphore)。

ribbon

SpringCloud中ribbon提供负载均衡能力,实际项目中后端不同服务都是多实例,因此从Zuul路由到某个服务也需要支持负载均衡。

zuul:ribbon:OkToRetryOnAllOperations:true     #全部请求开启重试机制ReadTimeout: 6000                 #请求处理超时时间ConnectTimeout: 6000              #请求连接超时时间MaxTotalHttpConnections: 1000     #最大http连接数MaxConnectionsPerHost: 100        #每个host最大连接数MaxAutoRetries: 10                #最大重试次数MaxAutoRetriesNextServer: 10      #切换实例的重试次数eureka:enabled: true

在高并发或者后端服务由于网络等原因,导致请求某一瞬间发生故障,也许后端服务只是暂时不可达或者响应比较慢。通过调整响应时间以及重试次数提高请求成功率。

hystrix

hystrix(熔断),当通过服务网关(基于Zuul实现)调用后端服务时候,难免会出现网络、响应超时等情况。通过hystrix可断掉与后端服务的连接,防止拖垮网关服务器。也可以通过hystrix实现服务降级,当发生异常时候,通过fallback处理熔断(比如:返回一些用户能看懂的错误提示等)。

hystrix:threadpool:default:coreSize: 1000   #线程池数量command:default:execution:isolation:thread:timeoutInMilliseconds: 60000  #发生熔断的超时时间strategy: SEMAPHORE   #隔离策略semaphore:max-semaphores: 2000 #信号量大小

高并发下常见Zuul异常

在高并发下,针对不同的系统架构、业务场景。需要自己调整Zuul各组件参数来满足性能需求。我们在使用jemeter进行并发测试,发现Zuul(服务网关)层出现了一些异常信息,解决了这些异常信息,QPS,TPS都提高了不少。

  • 无法获取信号量(semaphore异常)

spring cloud zuul : could not acquire a semaphore for execution and no fallback
available.
无法获取信号量,系统默认每个路由的信号量为100,当后端一个实例且并发大于100就会经常出现这个异常信息

调优配置:

zuul:semaphore:max-semaphores: 5000 #可根据系统需要支持的并发数适当增加信号量的大小
  • 超时

异常信息:

connect time out…
当并发访问时,有些服务所在主机响应可能会比较慢,或者某些业务本身比较耗时(比如上传一个大文件的接口)。如果在Zuul层设置的超时时间小于足业务的耗时, 会导致正常的业务请求失败。

调优配置:

ribbon:ReadTimeout: 6000                 #请求处理超时时间ConnectTimeout: 6000              #请求连接时间根据业务可适当调大超时时间

熔断

异常信息:

short-circuited and no fallback available
并发访问时,后端某些服务发生熔断

调优配置:

hystrix:command:default:execution:isolation:thread:timeoutInMilliseconds: 60000  #发生熔断的超时时间调整熔断超时时间,熔断时间太短,些耗时的业务部不能work熔断时太长,Zuul服务器可能会被拖垮。所以根据具体业务找到一个合适值。
ribbon:OkToRetryOnAllOperations:true     #全部请求开启重试机制ReadTimeout: 6000                 #请求处理超时时间ConnectTimeout: 6000              #请求连接超时时间MaxAutoRetries: 10                #最大重试次数调整重试次数,实际项目中由于网络或者资源不够,偶尔会出现后端服务不能访问,一次访问失败不能代表后端服务就挂了。因此开启重试机制,调整重试次数。在一定时间内,重试几次都失败,我们才认为后端服务挂了。

zuul 1.x 与2.x的区别与总结

1、1.x 同步阻塞,编程模型简单,社区成熟,通过调整参数能满足生产性能需求
2、2.x 异步非阻塞,相对编程模型复杂,刚出来也许还有些坑(bug),追求更好性能可以尝试

当高并发情况下,服务网关服务器(Zuul)可通过以下方法提高支持并发的能力。
1、调整Zuul组件参数
2、支持Zuul高可用,多实例
3、选择异步、非阻塞版本

转载:https://mp.weixin.qq.com/s/7S9zPM5lBDtOwtNJ5JOZyQ
https://blog.csdn.net/zhangzijiejiayou/article/details/101070379/

http://www.lryc.cn/news/329563.html

相关文章:

  • C++中的动态内存管理
  • es6的核心语法
  • Unity | 射线检测及EventSystem总结
  • 职业经验 2024 年测试求职手册
  • Spring Boot与Redis深度整合:实战指南
  • 微服务(基础篇-006-Docker安装-CentOS7)
  • 前端-css-01
  • Java学习36-Java 多线程安全:懒汉式和饿汉式
  • sql常用之CASE WHEN THEN
  • 【PduR路由】IPduM模块详细介绍
  • 【MySQL】6.MySQL主从复制和读写分离
  • Lucene及概念介绍
  • 密码算法概论
  • 实时数仓之实时数仓架构(Hudi)
  • 2022-04-15_for循环等_作业
  • 脑机辅助推导算法
  • 【原创教程】三菱FX PLC控制FR-E740变频器
  • 重读Java设计模式: 深入探讨建造者模式,构建复杂对象的优雅解决方案
  • C语言数据结构易错知识点(6)(快速排序、归并排序、计数排序)
  • 使用 React Router v6.22 进行导航
  • 单链表的插入和删除
  • 全量知识系统 之“程序”详细设计 之 “絮”---开端“元素周期表”表示的一个“打地鼠”游戏
  • 【详细讲解WebView的使用与后退键处理】
  • 【Linux多线程】生产者消费者模型
  • Django屏蔽Server响应头信息
  • 前端对数据进行分组和计数处理
  • synchronized 和 lock
  • ssh 公私钥(github)
  • LangChain入门:8.打造自动生成广告文案的应用程序
  • AI如何影响装饰器模式与组合模式的选择与应用