当前位置: 首页 > news >正文

用户自定义Table API Connector(Sources Sinks)

目录

概述

Metadata

Planning

Runtime

扩展点

动态表工厂(Dynamic Table Factories)

动态表(Dynamic Table)

动态表源(Dynamic Table Source)

扫描表源(Scan Table Source)

查找表源(Lookup Table Source)

动态表接收器(Dynamic Table Sink)

编码/解码格式(Encoding / Decoding Formats)

案例

 pom.xml依赖

包结构

Factories

SocketDynamicTableSourceFactory

ChangelogCsvFormatFactory

Table Source and Decoding Format

SocketDynamicTableSource

ChangelogCsvFormat

Runtime

SocketSourceFunction

ChangelogCsvDeserializer

配置service

测试


        动态表(Dynamic tables)是Flink的Table & SQL API的核心概念,用于以统一的方式处理有界和无界数据。

        因为动态表只是一个逻辑概念,所以Flink并不拥有数据本身。相反,动态表的内容存储在外部系统(如数据库、键值存储、消息队列)或文件中。

        动态源(Dynamic sources)和动态接收器(dynamic sinks)可用于从外部系统读取数据和向外部系统写入数据。源(sources )和接收器(sinks)通常被概括为连接器(connector)。言外之意,源是源头连接器,接收器是目标连接器。

        Flink为Kafka、Hive和不同的文件系统提供了预定义的连接器。有关内置表源和接收器的更多信息,请参阅连接器部分connector section。

         本文重点介绍如何开发用户自定义连接器。

概述

        在许多情况下,实现者不需要从头创建新的连接器,而是希望稍微修改现有的连接器或挂钩到现有的堆栈。在其他情况下,实现者希望创建专门的连接器。

        本节

http://www.lryc.cn/news/411699.html

相关文章:

  • 自闭症儿童能否摘帽?摘帽成功的秘诀揭秘
  • 主题巴巴WordPress主题合辑打包下载+主题巴巴SEO插件
  • git把本地文件上传远程仓库的流程
  • 基于springboot+vue+uniapp的养老院管理系统小程序
  • el-popover实现点击空白区域关闭,弹窗区域不关闭
  • Disjoint Set Union
  • 手写 Hibernate ORM 框架 05-基本效果测试
  • Unity材质球自动遍历所需贴图
  • C++那些事之结构化绑定
  • ECRS工时分析软件:工业工程精益生产的智慧引擎
  • 大语言模型的核心岗位及其要求
  • 【屏驱MCU】RT-Thread 文件系统接口解析
  • 进程管理工具top ps
  • 2年社招冲击字节,一天三面斩获offer
  • oppo,埃科光电25届秋招,快手25届技术人才专项计划等几千家企业岗位内推
  • 【Vulnhub系列】Vulnhub Lampiao-1 靶场渗透(原创)
  • MySQL:ORDER BY 排序查询
  • UML类图 详解
  • 【IEEE出版 | 高录用率 | 快速检索 | 有ISBN号!】2024年智能计算与数据挖掘国际学术会议 (ICDM 2024,9月20-22)
  • DaoCloud配置不同环境的流水线(Q)
  • 基础的Shell命令
  • 量子仿真speedUp的经验
  • 电测量数据交换DLMS∕COSEM组件第61部分:对象标识系统(OBIS)(下)
  • 【Java】重生之String类再爱我一次---练习题(012)
  • NSSCTF-GDOUCTF 2023新生赛
  • 论文解析——Character Region Awareness for Text Detection,字符级文本检测CRAFT算法
  • 基于飞腾平台的Kafka移植与安装
  • 【Python数据结构与算法】递归----算24
  • TOSHIBA东芝代理商--芯智雲城,提供订货、报价、选型等服务!
  • sdwan