当前位置: 首页 > news >正文

【Flink】

事件驱动型应用

核心目标:数据流上的有状态计算

Apache Flink是一个框架和分布式处理引擎,用于对无界或有界数据流进行有状态计算。

运行逻辑

695c1e3f34c74509b3d7d19f42c5ff1f.jpeg

状态

把流处理需要的额外数据保存成一个“状态”,然后针对这条数据进行处理,并且更新状态。这就是所谓的“有状态的流处理”。

无界数据和有界数据 

无界数据流

有定义流的开始,但没有定义流的结束

它们会无休止的产生数据

无界流的数据必须持续处理,即数据被摄取后需要立刻处理。我们不能等到所有数据都到达再处理,因为输入是无限的。

有界数据流

有定义流的开始,也有定义流的结束;

有界流可以在摄取所有数据后再进行计算;

有界流所有数据可以被排序,所以并不需要有序摄取;

有界流处理通常被称为批处理。

Flink主要特点

高吞吐和低延迟:每秒处理数百万个事件,毫秒级延迟。

结果的准确性:Flink提供了事件时间(event-time )和处理时间(processing-time)语义。对于乱序事件流,事件时间语义仍然能提供一致且准确的结果。

精确一次(exactly-once)的状态一致性保证。

可以连接到最常用的存储系统,如Kafka、 Hive、JDBC、HDFS、 Redis等。

高可用:本身高可用的设置,加上与K8s, YARN和Mesos的紧密集成,再加上从故障中快速恢复和动态扩展任务的能力,Flink能做到以极少的停机时间7×24全天候运行。

Flink VS Spark

spark以批处理为根本

flink以流处理为根本

应用场景

1)电商和市场营销
举例:实时数据报表、广告投放、实时推荐
2)物联网( IOT )
举例:传感器实时数据采集和显示、实时报警,交通运输业
3)物流配送和服务业
举例:订单状态实时更新、通知信息推送
4)银行和金融业
举例:实时结算和通知推送,实时检测异常行为

http://www.lryc.cn/news/176547.html

相关文章:

  • 大数据Flink(九十一):Array Expansion(数组列转行)和Table Function(自定义列转行)
  • 华为云云耀云服务器L实例评测|华为云云耀云服务器L实例CentOS的存储和备份策略
  • Web自动化测试 —— 如何进行Selenium页面数据及元素交互?啊哈
  • 点云从入门到精通技术详解100篇-基于全景图的室内场景点云补全方法(续)
  • Debezium系列之:采集数据库数据实现对表指定的字段进行加密,下游实现对表加密后的字段进行解密
  • Win10 cmd如何试用tar命令压缩和解压文件夹
  • 最新AI写作系统ChatGPT源码/支持GPT4.0+GPT联网提问/支持ai绘画Midjourney+Prompt+MJ以图生图+思维导图生成
  • AI绘画普及课【二】图生图
  • C语言 数据类型
  • 瑞芯微RK3568:Debian系统如何安装Docker
  • 联邦学习-Tensorflow实现联邦模型AlexNet on CIFAR-10
  • 嵌入式Linux应用开发-文件 IO
  • 【C++】多态,从使用到底层。
  • uvm白皮书练习_ch2_ch221只有driver的验证平台之*2.2.1 最简单的验证平台
  • 服务断路器_Resilience4j超时降级
  • 【知识点随笔分析】我看看谁还不会用CURL命令
  • ICCV 2023|Occ2Net,一种基于3D 占据估计的有效且稳健的带有遮挡区域的图像匹配方法...
  • leetcode - 14. Longest Common Prefix
  • MySQL-查询语句语法(DQL)结构(查询操作 一)
  • SWAT-MODFLOW地表水与地下水耦合
  • 工地临时用电之智慧用电:全方位保障用电安全
  • JumpServer开源堡垒机与爱可生云树数据库完成兼容性认证
  • 信息化发展64
  • 什么是全媒体整合营销?如何做好全媒体整合营销呢?
  • 系统集成|第十六章(笔记)
  • hive数据库操作,hive函数,FineBI可视化操作
  • 信息学奥赛一本通 2075:【21CSPJ普及组】插入排序(sort) | 洛谷 P7910 [CSP-J 2021] 插入排序
  • 基于微信小程序的民宿短租酒店预订系统设计与实现(源码+lw+部署文档+讲解等)
  • Python第二次作业(2)【控制台界面】
  • conda创建环境在Collecting package metadata (current_repodata.json)时报错的解决