当前位置: 首页 > news >正文

Flink如何基于事件时间消费分区数比算子并行度大的kafka主题

背景

使用flink消费kafka的主题的情况我们经常遇到,通常我们都是不需要感知数据源算子的并行度和kafka主题的并行度之间的关系的,但是其实在kafka的主题分区数大于数据源算子的并行度时,是有一些注意事项的,本文就来讲解下这些注意事项

flink数据源算子并行度大于kafka主题分区数

我们这里的注意事项对于即使做到配置flink数据源算子的并行度和kafka主题一样,但是有一些kafka主题没有消息发送过来的情况是一样的,这里的问题可以归结于以下两点:
1.有些kafka主题在某个时间点之后没有消息发送过来了
2.由于算子并行度大于kafka主题的分区数,有些数据源算子任务根本不会发送水位线到下一个算子任务
解决以上两个问题的方法是:

WatermarkStrategy.<Tuple2<Long, String>>forBoundedOutOfOrderness(Duration.ofSeconds(20)).withIdleness(Duration.ofMinutes(1));

通过设置算子任务的水位线策略允许空闲的方式来做到,不过从源头上来说,为了尽可能均匀的处理数据,我们尽量设置数据源算子的并行度等于kafka的主题数

http://www.lryc.cn/news/194208.html

相关文章:

  • 总结:JavaEE的Servlet中HttpServletRequest请求对象调用各种API方法结果示例
  • ChatGPT AIGC 完成Excel跨多表查找操作vlookup+indirect
  • Linux系统conda虚拟环境离线迁移移植
  • Vue16 绑定css样式 style样式
  • [Spring] SpringMVC 简介(三)
  • kettle应用-从数据库抽取数据到excel
  • Git Commit Message规范
  • Linux网络编程系列之UDP广播
  • spring中事务相关面试题(自用)
  • 09 | JpaSpecificationExecutor 解决了哪些问题
  • Linux命令(93)之su
  • 1.HTML-HTML解决中文乱码问题
  • Vue3 + Nodejs 实战 ,文件上传项目--实现拖拽上传
  • Windows:VS Code IDE安装ESP-IDF【保姆级】
  • Hadoop3教程(十一):MapReduce的详细工作流程
  • 测试中Android与IOS分别关注的点
  • NLG(自然语言生成)评估指标介绍
  • 苍穹外卖(七) Spring Task 完成订单状态定时处理
  • 【探索Linux】—— 强大的命令行工具 P.11(基础IO,文件操作)
  • 前端练习项目(附带页面psd图片及react源代码)
  • 【从零开始学习Redis | 第三篇】在Java中操作Redis
  • vim、gcc/g++、make/Makefile、yum、gdb
  • 2022最新版-李宏毅机器学习深度学习课程-P13 局部最小值与鞍点
  • ARM架构的基本知识
  • 网络安全(黑客技术)——如何高效自学
  • 云原生场景下高可用架构的最佳实践
  • 图论-最短路径算法-弗洛伊德算法与迪杰斯特拉算法
  • [23] IPDreamer: Appearance-Controllable 3D Object Generation with Image Prompts
  • 深入理解React中的useEffect钩子函数
  • 数字化时代的财务管理:挑战与机遇