当前位置: 首页 > news >正文

cdh6.3.2 Flink On Yarn taskmanager任务分配倾斜问题的解决办法

业务场景:

Flink On Yarn任务启动

组件版本:

CDH:6.3.2
Flink:1.13.2
Hadoop:3.0.0

问题描述:

在使用FLink on Yarn调度过程中,发现taskmanager总是分配在集中的几个节点上,集群有11个节点,但每个任务启动,只用到两三个节点,导致这几台服务器负载过高,其他节点又比较空闲。
在这里插入图片描述
在这里插入图片描述

先介绍yarn的两个参数:

1、yarn.scheduler.fair.assignmultiple
2、yarn.scheduler.fair.max.assign
第一个参数代表是否在一个节点分配多个container,第二个参数代表在一个节点上一次性最多分配几个container。
CDH6.3.0中第一个参数默认为true,则意味着会在一个节点上分配多个container,则会有多个taskmanager。
第二个参数默认为-1,则意味着不限制,则会一次性分配较多container。

问题解决:

第一种:将yarn.scheduler.fair.assignmultiple改为false
第二种:yarn.scheduler.fair.assignmultiple为true,将yarn.scheduler.fair.max.assign指定较小数值

特别感谢:博文https://blog.csdn.net/csdn_chshuai/article/details/124275371

http://www.lryc.cn/news/133277.html

相关文章:

  • 改进YOLO系列:3.添加SOCA注意力机制
  • SpringBoot整合Mybatis Plus——条件构造器Wrapper
  • while循环语句
  • 【ARM 嵌入式 编译系列 11 -- GCC __attribute__((packed))详细介绍】
  • Pytorch-day06-复杂模型构建-checkpoint
  • windows电脑系统自带的画图工具如何实现自由拼图
  • 直线模组的运行注意事项
  • 记录每日LeetCode 2236. 判断根结点是否等于子结点之和 Java实现
  • 使用PHP生成MySQL数据字典
  • React(7)
  • MySQL8.0新特性之用户管理
  • 强推9个研究生必备的免费论文下载网站
  • 解读2023年上半年财报:继续押注儿童业务的361°,有着怎样的野心?
  • 音视频 ffplay播放控制
  • 扁线电机定子转子工艺及自动化装备
  • 分类预测 | MATLAB实现DRN深度残差网络多输入分类预测
  • docker学习(十五)docker安装MongoDB
  • 3.JQuery closest()的用法
  • 速通蓝桥杯嵌入式省一教程:(七)定时器输入捕获中断与PWM频率占空比测量
  • 深入理解python虚拟机:程序执行的载体——栈帧
  • 云服务器-Docker容器-系统搭建部署
  • ES 索引重命名--Reindex(一)
  • Spring之bean的生命周期
  • 策略梯度方法
  • 博客系统之单元测试
  • 【ARM v8】如何在ARM上实现x86的rdtsc()函数
  • redis--事务
  • 111. 二叉树的最小深度
  • SpringMVC归纳与总结
  • Python学习笔记_进阶篇(三)_django知识(二)