当前位置: 首页 > news >正文

flink的物理DataFlow图及Slot处理槽任务分配

背景

在flink中,有几个比较重要的概念,逻辑DataFlow图,物理DataFlow图以及处理槽执行任务,本文就来讲解下这几个概念

概念详解

假设有以下代码:数据源和统计单词算子的并行度是2,数据汇算子的并行度是1,当前集群有100个空闲的处理槽(分别从SLOT_{A,B,C…})
在这里插入图片描述
可以看到最终我们只使用了两个处理槽,分别是SLOT_A和SLOT_B,使用的处理槽的数量和设置的算子最大并行度一样,然后在每个处理槽内,对于每个任务,处理槽会分别开启一个Thread线程进行处理,这里你会不会觉得很奇怪,我还有这么多空闲的处理槽,为何只用了其中的两个?
这其实是由flink的任务调度策略决定的,其决定的依据这样分配当有很多job在同时执行时,可以达到最佳的资源分配,详见官方文档的解释

http://www.lryc.cn/news/164518.html

相关文章:

  • 与面试相关的redis
  • MapStruct从0到0.5
  • STM32H750 HAL CUBEMX 时钟失败及死机无法下载问题解决
  • paddlespeech on centos7
  • ROM是什么? 刷ROM是什么意思?
  • 华为云Stack的学习(五)
  • 【LeetCode-中等题】904. 水果成篮
  • 【C++】哈希——哈希的概念,应用以及闭散列和哈希桶的模拟实现
  • Kubernetes (K8s) 解读:微服务与容器编排的未来
  • JavaScript学习--Day04
  • HCS 基本概念(三)
  • 通过curl命令分析http接口请求各阶段的耗时等
  • Linux工具——gcc
  • uni-app 使用uCharts-进行图表展示(折线图带单位)
  • 180B参数的Falcon登顶Hugging Face,vs chatGPT 最好开源大模型使用体验
  • 服务器数据恢复-EMC存储磁盘损坏的RAID5数据恢复案例
  • Nginx优化文件上传大小限制
  • navicat SSH连接数据库报错: Putty key format too new
  • 基于大规模MIMO通信系统的半盲信道估计算法matlab性能仿真
  • 自然语言处理学习笔记(九)———— OVV Recall Rate与 IV Recall Rate
  • 区块链正在开启一场回归商业,融合商业的新发展
  • 【软考】系统集成项目管理工程师(三)信息系统集成专业技术知识③
  • js中如何判断一个对象是否为空对象?
  • Linux SysRq 简介
  • Mac版本破解Typora,解决Mac安装软件的“已损坏,无法打开。 您应该将它移到废纸篓”问题
  • elementui el-dialog 动态生成多个,点击按钮打开对应的 dialog
  • 自己开发一个接口文档页面html
  • 信息化发展28
  • React 入门实例教程
  • Window安装Node.js npm appium Appium Desktop