当前位置: 首页 > news >正文

Flink中RPC实现原理简介

前提知识

Akka是一套可扩展、弹性和快速的系统,为此Flink基于Akka实现了一套内部的RPC通信框架;为此先对Akka进行了解

Akka

Akka是使用Scala语言编写的库,基于Actor模型提供一个用于构建可扩展、弹性、快速响应的系统;并被应用到Flink中,基于Akka实现了集群组件之间的RPC通信框架

Actor模型

Actor模型是一个通用的并发编程模型,该模型独立维护隔离状态,基于消息传递实现异步通信,大致可以理解为三部分:

  • 邮箱:每个actor持有一个邮箱(mailbox),本质上是一个队列,用于存储消息。
  • 行为:每个actor可以发送消息至任何actor
  • 状态:每个actor可以通过处理消息来更新内部状态,对于外部而言,actor的状态是隔离的状态,避免了并发环境下的锁和内存原子性问题

Akka系统组成

Akka系统核心包括两个组件:ActorSystemActor(使用demo可以参考这里)

  • 只能通过ActorSystem.actorOfActorContext.actorOf创建Actor,不允许直接创建Actor
  • 只能通过ActorRef发送消息与Actor通信

Flink的RPC框架

Flink的RPC框架基于Akka实现,其中Flink集群中实现RPC通信节点功能主要有:DispacherResourceManagerTaskManagerTaskManager;这些节点分别继承了RpcEndPoint抽象类,并在实现类中初始化各自RpcServer(类似于Actor)来提供本地和远程代码请求;RpcServer的创建和启动都是由RpcService(主要实现AkkaRpcService,封装ActorSystem)来完成,此外一个RpcService可以创建多个RpcServer;详细的调用链路图如下所示

在这里插入图片描述

RpcEndPoint

RpcEndPoint代表RPC组件的端点,需要实现RPC通信的都需要实现RpcEndPoint,主要成员变量如下

在这里插入图片描述

  • rpcServer用于完成本地和远程调用能力

  • rpcService是的rpcService引用,rpcService可用于启动/关闭当前rpcServerrpcServer中封装了ActorRef

  • mainThreadExecutor封装了MainThreadExecutable接口(RpcServer接口继承了MainThreadExecutable),用于实现本地调用

  • endpointId用于唯一标识当前的RpcEndPoint

AkkaRpcService

AkkaRpcService负责创建启动Flink集群中RpcEndPoint组件的RpcServer,且AkkaRPCService在集群创建时就会启动完毕;UML类图如下所示

在这里插入图片描述

属性:

  • actorSystem是引用Akka的ActorSystem,可以用于启动、停止actor(启动、停止rpcServer
  • actors用于存储创建的RpcEndPoint的实现类(类中会封装actor

方法:

  • startServer()用于启动RpcServer,启动完成后这能对外提供服务
  • connect()用于连接远端RpcEndpoint,并返回调用方RpcGateway接口的代理类,获得调用外部的能力

RpcServer

RpcServer是一个接口类,该类实现类有AkkaInvocationHandlerFencedAkkaInvocationHandlerAkkaInvocationHandler中封装有ActorRef,并通过动态代理技术(InvocationHandler)实现远程和本地方法调用

在这里插入图片描述

RpcServerRpcGateWayMainThreadExecutableStartStoppable接口的方法,都会通过代理实现;方法中会查看调用方法实现类,来判断本地调用还是通过RefActor发送远程RPC调用

小结

Flink中每个需要使用RPC的组件都会实现RpcEndpoint,每个RpcEndpoin中都会包含两个属性RpcServiceRpcServer;其中RpcService封装了AkkaSystemRpcServer封装了ActorRef,最终通过动态代理技术实现方法的调用

参考资料:

书籍:Flink设计与实现

博客:https://cloud.tencent.com/developer/news/698662

http://www.lryc.cn/news/150014.html

相关文章:

  • ELK安装、部署、调试(五)filebeat的安装与配置
  • Python数据分析案例30——中国高票房电影分析(爬虫获取数据及分析可视化全流程)
  • 科技资讯|苹果Vision Pro头显申请游戏手柄专利和商标
  • Compose学习 - remember、mutableStateOf的使用
  • 字符串哈希
  • 【python】【centos】使用python杀死进程后自身也会退出
  • 【ES系列】(一)简介与安装
  • opencv案例06-基于opencv图像匹配的消防通道障碍物检测与深度yolo检测的对比
  • 练习2:88. 合并两个有序数组
  • 【代码随想录day23】不同路径
  • SpringBoot 博客网站
  • 【分布式搜索引擎elasticsearch】
  • wireshark 流量抓包例题
  • 【Axure视频教程】表格编号函数
  • 大数据-玩转数据-Flink定时器
  • Linux 操作系统实战视频课 - GPIO 基础介绍
  • ChatGPT在医疗保健信息管理和电子病历中的应用前景如何?
  • 安防监控/视频存储/视频汇聚平台EasyCVR接入海康Ehome车载设备出现收流超时的原因排查
  • 【zookeeper】zookeeper监控指标查看
  • Flink 如何处理反压?
  • JAVA基础-JDBC
  • 嵌入式学习笔记(1)ARM的编程模式和7种工作模式
  • [NSSCTF Round #15NSSCTF 2nd]——Web、Misc、Crypto方向 详细Writeup
  • Metasploit“MSF”连接postgresql时因排序规则版本不匹配导致无法连接
  • CCF CSP题解:矩阵运算(202305-2)
  • 划分字母区间【贪心算法】
  • 低代码的探索之路
  • easyUI combobox不可手动输入和禁用
  • RV64和ARM64栈结构差异
  • 将 Python 与 RStudio IDE 配合使用(R与Python系列第一篇)