当前位置: 首页 > news >正文

flink的网络缓冲区

背景

在flink的taskmanager进行数据交互的过程中,网络缓冲区是一个可以提升网络交换速度的设计,此外,flink还通过网络缓冲区实现其基于信用值credit的流量控制,以便尽可能的处理数据倾斜问题

网络缓冲区

在flink中每个taskmanager都有两种类型的网络缓冲区,一个是发送网络缓冲区,一个是接收网络缓冲区,他们的大小都是32K,以下是示意图
在这里插入图片描述
我们在调优flink时,可以通过大概估算应用有多少个网络缓冲区,并且根据总的内存大小适当的调大或者调低每个网络缓冲区的大小以达到最佳性能。

顺便说一下: flink中基于信用值的流量控制是接收方根据每个发送方的消息堆积量来分配不同的流量信用值给发送方,比如给堆积比较多的发送方更多的信用值,以便它可以发送给接收方更多的数据,而对于堆积比较少的发送方,只提供给他们较低的信用值,这样就可以尽量的解决数据倾斜的问题了

http://www.lryc.cn/news/166298.html

相关文章:

  • 产品经理学习笔记
  • 【深入理解Linux锁机制】七、互斥体
  • UGUI画布加载优化
  • SEC的下一步目标是什么?过时的证券法与加密货币行业,哪个会被先淘汰?
  • Kafka3.0.0版本——消费者(独立消费者消费某一个主题数据案例__订阅主题)
  • 笔记本多拓展出一个屏幕
  • Redis 高可用及持久化
  • Java高级: 反射
  • 【计算机网络】什么是WebSocket?
  • Apinto 网关: Go语言实现 HTTP 转 gRPC
  • 【管理运筹学】第 7 章 | 图与网络分析(4,最大流问题)
  • linux学习总结
  • 【API 管理】什么是 API 管理,为什么它很重要?
  • 基于人体呼出气体的电子鼻系统的设计与实现
  • OPC发展历程
  • 第69步 时间序列建模实战:ARIMA建模(R)
  • 【多线程】CountDownLatch
  • 使用 docker buildx 构建跨平台镜像 (QEMU/buildx/build)
  • 算法|Day49 动态规划17
  • Linux nohup命令
  • SQL Server 跨库/服务器查询
  • word转PDF文件变小,图片模糊
  • 被删除并且被回收站清空的文件如何找回
  • 每日两题 131分割回文串 784字母大小写全排列(子集模版)
  • Java面试八股文宝典:初识数据结构-数组的应用扩展之HashMap
  • ES6 特性
  • 重拾html5
  • 递归学习——记忆化搜索
  • ChatGPT帮助一名儿童确诊病因,之前17位医生无法确诊
  • Laf 云开发平台及其实现原理