当前位置: 首页 > news >正文

DataStream API使用Sink及自定义Sink

目录

Data Sinks  

案例

 自定义Sink

Human实体类

自定义RichSinkFunction 

MySQL Sink使用 

测试 


Data Sinks  

        数据接收器(Data sinks)消费数据流并将它们转发到文件、套接字、外部系统或打印它们。Flink带有各种内置输出格式,这些格式被封装在数据流的算子后面:

(1)writeAsText() / TextOutputFormat -将元素逐行写入字符串。通过调用每个元素的toString()方法获得string。

(2)writeAsCsv(…)/ CsvOutputFormat -将元组写入以逗号分隔的值文件。行和字段分隔符是可配置的。每个字段的值来自对象的toString()方法。

(3)print() / printToErr() -打印标准输出/标准错误流中每个元素的toString()值。可选地,可以提供一个前缀(msg),它被附加到输出。这可以帮助区分不同的打印调用。如果并行度大于1,输出也将加上产生输出的任务的标识符。

(4)writeUsingOutputFormat() / FileOutputFormat -自定义文件输出的方法和基类。支持自定义对象到字节的转换。

(5)writeToSocket——根据SerializationSchema将元素写入套接字。

(6)addSink -调用自定义接收函数。Flink与其他系统(如Apache Kafka)的连接器捆绑在一起,这些系统被实现为接收函数。

        请注意,数据流上的write*()方法主要用于调试目的。它们不参与Flink的检查点,这意味着这些函数通常具有至少一次(at-least-once)的语义。将数据刷新到目标系统取决于OutputFormat的实现。这意味着并非发送到OutputFormat

http://www.lryc.cn/news/413845.html

相关文章:

  • C++标准模板(STL)- 类型支持 (类型属性,检查类型是否拥有强结构相等性,std::has_strong_structural_equality)
  • 《中国数据库前世今生》观影——2000年代/数据库分型及国产数据库开端
  • 图的同态Graph Homomorphism与同构Graph Isomorphism
  • 使用 Python 对雷达卫星 sar 图像进行降噪的三种方法
  • C# Unity 面向对象补全计划 之 初识继承方法与多态
  • 突破PyCharm索引瓶颈:提升文件索引速度的策略
  • 体素相关的快速计算
  • Python 爬虫项目实战(二):爬取微博热搜榜
  • 文件解析漏洞复现
  • git push报错 pre-receive hook declined
  • 打造个性化代码审查工具:在Perl中实现自定义审查的艺术
  • RabbitMq架构原理剖析及应用
  • c# 对接第三方接口实现签名
  • 数学建模评价类模型—层次分析法(无数据情况下)
  • 模拟实现strcat(字符串追加)
  • HTTP简单概述
  • 掌握PyCharm代码片段管理器:提升编码效率的秘诀
  • MyBatis动态代理和映射器
  • ShardingSphere中的ShardingJDBC常见分片算法的实现
  • SpringBoot整合Flink CDC实时同步postgresql变更数据,基于WAL日志
  • ThinkPHP事件的使用
  • 【Nuxt】服务端渲染 SSR
  • Spring Boot整合WebSocket
  • 《LeetCode热题100》---<5.③普通数组篇五道>
  • Cocos Creator文档学习记录
  • 插入数据优化 ---大批量数据插入建议使用load
  • 【Linux】一篇总结!什么是重定向?输出重定向的作用是什么?什么又是追加重定向?
  • svn软件总成全内容
  • [激光原理与应用-118]:电源系统的接地详解:小信号的噪声干扰优化,从良好外壳接地开始
  • 回测本身就是一种过度拟合?