当前位置: 首页 > news >正文

配置Flink

配置flink_1.17.0

  • 1.Flink集群搭建
    • 1.1解压安装包
    • 1.2修改集群配置
    • 1.3分发安装目录
    • 1.4启动集群、访问Web UI
  • 2.Standalone运行模式
  • 3.YARN运行模式
  • 4.K8S运行模式

1.Flink集群搭建

1.1解压安装包

链接: 下载Flink安装包
在这里插入图片描述

解压文件
[gpb@hadoop102 software]$ tar -zxvf flink-1.17.0-bin-scala_2.12.tgz -C /opt/module/

1.2修改集群配置

修改conf中的 flink-conf.yaml 文件
vim flink-conf.yaml

# JobManager节点地址.
jobmanager.rpc.address: hadoop102
jobmanager.bind-host: 0.0.0.0
rest.address: hadoop102
rest.bind-address: 0.0.0.0
# TaskManager节点地址.需要配置为当前机器名
taskmanager.bind-host: 0.0.0.0
taskmanager.host: hadoop102

vim workers

hadoop102
hadoop103
hadoop104

vim masters

hadoop102:8081

另外,在flink-conf.yaml文件中还可以对集群中的JobManager和TaskManager组件进行优化配置,主要配置项如下:

jobmanager.memory.process.size:对JobManager进程可使用到的全部内存进行配置,包括JVM元空间和其他开销,默认为1600M,可以根据集群规模进行适当调整。
taskmanager.memory.process.size:对TaskManager进程可使用到的全部内存进行配置,包括JVM元空间和其他开销,默认为1728M,可以根据集群规模进行适当调整。
taskmanager.numberOfTaskSlots:对每个TaskManager能够分配的Slot数量进行配置,默认为1,可根据TaskManager所在的机器能够提供给Flink的CPU数量决定。所谓Slot就是TaskManager中具体运行一个任务所分配的计算资源。
parallelism.default:Flink任务执行的并行度,默认为1。优先级低于代码中进行的并行度配置和任务提交时使用参数指定的并行度数量。

1.3分发安装目录

(1)配置修改完毕后,将Flink安装目录发给另外两个节点服务器。
[atguigu@hadoop102 module]$ xsync flink-1.17.0/
(2)修改hadoop103的 taskmanager.host
[atguigu@hadoop103 conf]$ vim flink-conf.yaml
修改如下内容:
# TaskManager节点地址.需要配置为当前机器名
taskmanager.host: hadoop103
(3)修改hadoop104的 taskmanager.host
[atguigu@hadoop104 conf]$ vim flink-conf.yaml
修改如下内容:
# TaskManager节点地址.需要配置为当前机器名
taskmanager.host: hadoop104

1.4启动集群、访问Web UI

(1)在hadoop102节点服务器上执行start-cluster.sh启动Flink集群:
[atguigu@hadoop102 flink-1.17.0]$ bin/start-cluster.sh
(2)查看进程情况:
[atguigu@hadoop102 flink-1.17.0]$ jpsall 
=============== hadoop102 ===============
4453 StandaloneSessionClusterEntrypoint
4458 TaskManagerRunner
4533 Jps
=============== hadoop103 ===============
2872 TaskManagerRunner
2941 Jps
=============== hadoop104 ===============
2948 Jps
2876 TaskManagerRunner

在这里插入图片描述

2.Standalone运行模式

3.YARN运行模式

4.K8S运行模式

http://www.lryc.cn/news/142527.html

相关文章:

  • 39、springboot的前端静态资源的WebJar支持(bootstrap、jquery等)及自定义图标和首页
  • 【图论】缩点的综合应用(一)
  • C++—纯虚函数
  • 经过卷积神经网络之后的图片的尺寸如何计算
  • Java升级JDK17(更高版本同理),修改maven
  • Go测试之.golden 文件
  • 回归预测 | MATLAB实现GA-RF遗传算法优化随机森林算法多输入单输出回归预测(多指标,多图)
  • springboot整合rabbitmq死信队列
  • 高中信息技术教资考试模拟卷(22下)
  • Linux中shadow及passwd格式内容解析
  • 计算机视觉 – Computer Vision | CV
  • 2.Redis 通用命令
  • 【学习FreeRTOS】第18章——FreeRTOS软件定时器
  • C++--两个数组的dp问题(2)
  • 利用人工智能彻底改变库存管理:综合指南
  • 连接器信号完整性仿真教程 七
  • Wireshark数据抓包分析之UDP协议
  • Java小游戏
  • 服务器Linux系统配置mysql数据库主从自动备份
  • Java通过PowerMockito和Mokito进行单元测试
  • 数字化技术无限延伸,VR全景点亮智慧生活
  • 抖音艺术签名小程序源码/艺术签名设计小程序源码/字节跳动小程序开发
  • 养号自动化,指纹浏览器和RPA机器人解除烦恼
  • ES6中promise的使用
  • 前端如何走通后端接口
  • iOS swift5 扫描二维码
  • 【马拉车算法/动态规划】最长回文字串
  • 什么是 fail-fast? 什么是fail-safe?
  • 第三届计算机、物联网与控制工程国际学术会议(CITCE 2023)
  • react antd 日期选择 WeekPicker MonthPicker 取值转为起止日期