当前位置: 首页 > news >正文

生产环境下,应用模式部署flink任务,通过hdfs提交

前言

  通过通过yarn.provided.lib.dirs配置选项指定位置,将flink的依赖上传到hdfs文件管理系统


1. 实践

  (1)生产集群为cdh集群,从cm上下载配置文件,设置环境
在这里插入图片描述

export HADOOP_CONF_DIR=/home/conf/auth
export HADOOP_CLASSPATH=`hadoop classpath`

  (2)上传flink的lib和plugins、自己的jar包到hdfs上

hdfs dfs -put lib/ /flink-dist
hdfs dfs -put plugins/ /flink-dist
hdfs dfs -put examples/FlinkTutorial-1.17-1.0-SNAPSHOT.jar  /flink-jars

  (3)提交作业

bin/flink run-application -t yarn-application -Dyarn.provided.lib.dirs="hdfs://nameservice1/flink-dist" -c com.hex.wc.WordCountStreamUnboundedDemo  hdfs://nameservice1/flink-jars/FlinkTutorial-1.17-1.0-SNAPSHOT.jar

http://www.lryc.cn/news/304741.html

相关文章:

  • 【lesson59】线程池问题解答和读者写者问题
  • 【LeetCode每日一题】单调栈316去除重复字母
  • 【Git】Gitbash使用ssh 上传本地项目到github
  • activeMq将mqtt发布订阅转成消息队列
  • Go语言教程
  • 分布式锁的应用场景及实现
  • 嵌入式Linux中apt、apt-get命令用法汇总
  • Unity之ShaderGraph如何实现水面波浪
  • 无线局域网(WLAN)简单概述
  • 学习数仓工具 dbt
  • 高录用快见刊【最快会后两个月左右见刊】第三届社会科学与人文艺术国际学术会议 (SSHA 2024)
  • C语言-指针初学速成
  • MQL语言实现单元测试
  • Redis信创平替之TongRDS(东方通),麒麟系统安装步骤
  • nginx服务
  • 多数pythoneer只知有列表list却不知道python也有array数组
  • 【Rust】——控制流(if-else,循环)
  • 通过platform总线驱动框架编写LED灯的驱动,编写应用程序测试
  • 费舍尔FISHER金属探测器探测仪维修F70
  • Airtest-Selenium实操小课③:下载可爱猫猫图片
  • Druid无法登录监控页面
  • 【Linux系统化学习】深入理解匿名管道(pipe)和命名管道(fifo)
  • 信息学奥赛一本通1209:分数求和
  • LabVIEW储氢材料循环寿命测试系统
  • Unity3D 框架如何搭建基于纯Lua的U框架与开发模式详解
  • Linux常见指令(2)
  • 【C++】封装
  • Maxwell安装部署
  • 说一下JVM类加载机制?
  • 解决SpringAMQP工作队列模型程序报错:WARN 48068:Failed to declare queue: simple.queue