当前位置: 首页 > news >正文

Flink对接Kafka的topic数据消费offset设置参数

        scan.startup.mode 是 Flink 中用于设置消费 Kafka topic 数据的起始 offset 的配置参数之一。

scan.startup.mode 可以设置为以下几种模式:

  • earliest-offset:从最早的 offset 开始消费数据。
  • latest-offset:从最新的 offset 开始消费数据。
  • group-offsets:从消费者组的 offset 开始消费数据。
  • timestamp:根据指定的时间戳开始消费数据。
  • specific-offsets:根据指定的 offset 开始消费数据。

        在 Flink 的配置文件(如 flink-conf.yaml)中,,可以通过设置以下参数来配置 scan.startup.mode

# 设置启动模式为 earliest-offset
flink.connector.kafka.scan.startup.mode: earliest-offset

        或者在程序中使用 FlinkKafkaConsumersetStartupMode() 方法来设置启动模式:

Properties props = new Properties();
props.setProperty("bootstrap.servers", "localhost:9092");
props.setProperty("group.id", "consumer-group");FlinkKafkaConsumer<String> kafkaConsumer = new FlinkKafkaConsumer<>("topic-name", new SimpleStringSchema(), props);
kafkaConsumer.setStartupMode(StartupMode.EARLIEST);// 使用 kafkaConsumer 进行后续操作

        需要注意的是,scan.startup.mode 参数是用于 Flink 1.14 版本及以上。在更早的版本中,可以使用 flink.consumer.startup-mode 参数来设置消费 Kafka 数据的起始 offset 模式。

http://www.lryc.cn/news/288294.html

相关文章:

  • TryHackMe-Umbrella
  • Excel导出警告:文件格式和拓展名不匹配
  • kafka集群和Filebeat+Kafka+ELK
  • golang map真有那么随机吗?——map遍历研究
  • 详细分析对比copliot和ChatGPT的差异
  • TENT:熵最小化的Fully Test-Time Adaption
  • 研发日记,Matlab/Simulink避坑指南(五)——CAN解包 DLC Bug
  • 机器人3D视觉引导半导体塑封上下料
  • (十二)Head first design patterns代理模式(c++)
  • C++从零开始的打怪升级之路(day21)
  • 《设计模式的艺术》笔记 - 观察者模式
  • Java如何对OSS存储引擎的Bucket进行创建【OSS学习】
  • ModuleNotFoundError: No module named ‘half_json‘
  • 深入探究 Android 内存泄漏检测原理及 LeakCanary 源码分析
  • Linux CentOS使用Docker搭建laravel项目环境(实践案例详细说明)
  • 第六课:Prompt
  • 网络安全(初版,以后会不断更新)
  • 开始学习Vue2(脚手架,组件化开发)
  • 平替heygen的开源音频克隆工具—OpenVoice
  • 【自动化测试】读写64位操作系统的注册表
  • php二次开发股票系统代码:腾讯股票数据接口地址、批量获取股票信息、转换为腾讯接口指定的股票格式
  • uniapp 在static/index.html中添加全局样式
  • acrobat调整pdf的页码和实际页码保持一致
  • ctfshow-命令执行
  • 【Python基础015】集合的用法
  • 解密神经网络:深入探究传播机制与学习过程
  • linux usb设备网络共享 usb/ip
  • 如何通过系统命令排查账号安全?
  • ​《WebKit 技术内幕》学习之九(3): JavaScript引擎
  • IS-IS:05 ISIS开销值和协议优先级