当前位置: 首页 > article >正文

实时数仓flick+clickhouse启动命令

1、启动zookeeper
zk.sh start

2、启动DFS,Hadoop集群
start-dfs.sh

3、启动yarn
start-yarn.sh

4、启动kafka
启动Kafka集群
bin/kafka-server-start.sh -daemon config/server.properties

查看Kafka topic 列表
bin/kafka-topics.sh --bootstrap-server localhost:9092 --list

创建Kafka ods层topic 副本
bin/kafka-topics.sh --zookeeper localhost:2181 --create --topic ods_cars_log --replication-factor 1 --partitions 1
bin/kafka-topics.sh --zookeeper localhost:2181 --create --topic ods_entrance_guard_log --replication-factor 1 --partitions 1

删除Kafka ods层topic
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic ods_cars_log
bin/kafka-topics.sh --zookeeper localhost:2181 --delete --topic ods_entrance_guard_lo

5、启动Flink SQL-client服务
#启动flink yarn-session
bin/yarn-session.sh -s 1 -jm 1024 -tm 1024
#关闭yarn-session命令
bin/yarn application -kill application_1659752641091_0003

6、#启动flink sql
bin/sql-client.sh -s yarn-session

7、#设置checkpoint配置
SET ‘execution.checkpointing.interval’ = ‘10s’;
SET ‘parallelism.default’ = ‘3’;

flink启动之前需要:
#启动HDFS
start-dfs.sh
#启动集群
start-cluster.sh
#启动历史服务器
historyserver.sh start

FlinkCDC环境部署
sql-client提交作业模式
1.Standalone模式
启动sql-client:bin/sql-client.sh embedded
注意,如果使用standalone模式运行,需要先启动一个Flink standalone集群,方法如下:
bin/start-cluster.sh

2.yarn-session模式(本案例使用方式)
先启动Flink yarn-session集群:bin/yarn-session.sh -s 1 -jm 1024 -tm 1024
然后再启动sql-client:bin/sql-client.sh -s yarn-session

启动kafka

启动flink

CH的命令
基于默认配置启动ClickHouse
service clickhouse-server start

查看ClickHouse启动进程
ps -ef | grep clickhouse

重新启动
systemctl restart clickhouse-server

#客户端连接ClickHouse
clickhouse-client

#查询数据库
show databases;

用户名:default
密码:123456

在这里插入图片描述

Could not find any factory for identifier ‘mysql-cdc’ that implements ‘org.apache.flink.table.factories.DynamicTableFactory’ in the classpath.

在这里插入图片描述

http://www.lryc.cn/news/2387237.html

相关文章:

  • 【Git】Commit Hash vs Change-Id
  • Netty学习专栏(六):深度解析Netty核心参数——从参数配置到生产级优化
  • 服务器磁盘按阵列划分为哪几类
  • 在WPF中添加动画背景
  • 【KWDB创作者计划】_KWDB分布式多模数据库智能交通应用——高并发时序处理与多模数据融合实践
  • Android 中的 ViewModel详解
  • Java集合框架与三层架构实战指南:从基础到企业级应用
  • 6个月Python学习计划 Day 2 - 条件判断、用户输入、格式化输出
  • 使用docker容器部署Elasticsearch和Kibana
  • 批量处理合并拆分pdf功能 OCR 准确率高 免费开源
  • Unity—lua基础语法
  • 目标检测 TaskAlignedAssigner 原理
  • Qt popup窗口半透明背景
  • 游戏:元梦之星游戏开发代码(谢苏)
  • TCP协议原理与Java编程实战:从连接建立到断开的完整解析
  • Linux的top命令使用
  • Spring Cloud Gateway 限流实践:基于 Redis 令牌桶算法的网关层流量治理
  • 可视化大屏实现全屏或非全屏
  • java8函数式接口(函数式接口的匿名实现类作为某些方法的入参)
  • linux自有服务
  • UniApp网页版集成海康视频播放器
  • Filter和Interceptor详解(一文了解执行阶段及其流程)
  • 鸿蒙仓颉开发语言实战教程:实现商城应用详情页
  • GitAny - 無需登入的 GitHub 最新倉庫檢索工具
  • 在飞牛nas系统上部署gitlab
  • 深入理解 Redis 哨兵模式
  • SQL进阶之旅 Day 4:子查询与临时表优化
  • [特殊字符]《Qt实战:基于QCustomPlot的装药燃面动态曲线绘制(附右键菜单/样式美化/完整源码)》
  • 力扣-最大连续一的个数
  • 无人机避障——深蓝学院浙大栅格地图以及ESDF地图内容