当前位置: 首页 > news >正文

Airbyte架构

作为一款技术复杂的数据集成管道,Airbyte的架构模式非常清晰明了。

Airbyte应用模式

Airbyte管道架构

UI:一个易于使用的图形界面,用于与Airbyte API进行交互。

WebApp Server:处理 UI 和 API 之间的连接。

Config Store:存储所有连接信息(凭据、频率等)。

Scheduler Store:存储调度程序簿记的状态和作业信息。

Config API:Airbyte 的主控制平面。Airbyte 中的所有操作,例如创建源、目标、连接、管理配置等。从 API 配置和调用。

Scheduler:调度程序从 API 获取工作请求,并将其发送到临时服务进行并行化。它负责跟踪成功/失败,并根据配置的频率触发同步。

Temporal Service:管理计划程序的任务队列和工作流。

Worker:工作线程连接到源连接器,拉取数据并将其写入目标。

Temporary Storage:工作人员在需要将数据溢出到磁盘上时可以使用的存储。

http://www.lryc.cn/news/17867.html

相关文章:

  • anchor box只是先验知识,bounding box是一种过程,ground truth才是标准答案,
  • 带你轻松实现通讯录(C语言版)
  • 渗透测试之交换式网络嗅探实验
  • rust 安装
  • 机器学习和深度学习综述
  • SQL零基础入门学习(八)
  • 若依系统如何集成qq邮件发送【超详细,建议收藏】
  • 前端-CSS-zxst
  • 合宙Air105|fonts库|mcu.ticks()|LuatOS-SOC接口|官方demo|学习(19):fonts库
  • 成都欢蓬电商:抖音直播卖药灰度测试通告
  • 1.1计算机和编成语言
  • 解析 xml 文件 - xml.etree ElementTree
  • LeetCode Cookbook 哈希表(collections.Counter()和collections.defaultdict())
  • spring boot项目中i18n和META-INF.spring下的文件的作用
  • 3年自动化测试经验,面试连20K都拿不到,现在都这么卷了吗····
  • Python数据结构与算法篇(四)-- 链表的实现
  • 【java基础】循环语句、中断控制语句
  • 万字长文带你实战 Elasticsearch 搜索
  • Web网页测试全流程解析论Web自动化测试
  • 初识Python——“Python”
  • LocalDateTime使用
  • 设计模式学习笔记 - 外观模式
  • 如何写出一份优秀的简历和求职信?
  • OpenGL超级宝典学习笔记:原子计数器
  • 深圳/东莞/惠州师资比较强的CPDA数据分析认证
  • LeetCodeHOT100热题02
  • 虹科Dimetix激光测距仪在锯切系统中的应用
  • FreeRTOS入门(02):任务基础使用与说明
  • ESP通过乐为物联控制灯,微信发送数值,ESP上传传感器数据
  • Linux:共享内存api使用