当前位置: 首页 > news >正文

k8s部署hadoop

(作者:陈玓玏)



配置和模板参考helm仓库:https://artifacthub.io/packages/helm/apache-hadoop-helm/hadoop

先通过以下命令生成yaml文件:

helm template hadoop pfisterer-hadoop/hadoop  > hadoop.yaml

在这里插入图片描述
用kubectl命令,通过这个yaml文件直接部署hadoop,配置想改的可以自己改,默认的配置仓库中有写:
在这里插入图片描述
比如我想要3个datanode而不是1个,就把dn-statefulset的replicas改为3,保存后直接部署,部署命令:kubectl apply -f hadoop.yaml
在这里插入图片描述
k8sdashboard中可以看到3个dn节点:
在这里插入图片描述
部署之后,进入namenode的pod,就可以执行hdfs命令了,如hdfs dfs -ls,hdfs dfs -touch等等。
在这里插入图片描述

http://www.lryc.cn/news/320917.html

相关文章:

  • deepspeed分布式训练在pytorch 扩展(PyTorch extensions)卡住
  • Rust 的 HashMap
  • exporter方式监控达梦数据库
  • 供应链安全之被忽略的软件质量管理平台安全
  • python入门(二)
  • Mysql,MongoDB,Redis的横纵向对比
  • css3 实现html样式蛇形布局
  • 基于消失点的相机自标定
  • Python:filter过滤器
  • Python函数学习
  • IDEA中的Project工程、Module模块的概念及创建导入
  • 如何快速下载并剪辑B站视频
  • 智慧矿山新趋势:大数据解决方案一览
  • Ubuntu使用Docker部署Nginx容器并结合内网穿透实现公网访问本地服务
  • 面试笔记——Redis(使用场景、面临问题、缓存穿透)
  • 电机学(笔记一)
  • 数值分析复习:Newton插值
  • 金融知识分享系列之:出场信号RSI指标
  • 基于Spring Boot的宿舍管理系统
  • 全量知识系统“全基因序列”程序构想及SmartChat的回复
  • 315晚会曝光主板机产业链,如何应对工作室技术更迭
  • Copilot with GPT-4与文心一言4.0:AI技术的未来
  • 注册-前端部分
  • SpringBoot ApplicationListener实现发布订阅模式
  • 嵌入式学习40-数据结构
  • k8s集群部署elk
  • 【Python】清理conda缓存的常用命令
  • 代码随想录算法训练营第46天 | 完全背包,139.单词拆分
  • rust - 将windows剪贴板的截图保存为png
  • pyflink1.18.0 报错 TypeError: cannot pickle ‘_thread.lock‘ object