当前位置: 首页 > news >正文

hadoop部署配置

端口名称 Hadoop2.x Hadoop3.x
NameNode内部通信端口 8020 / 9000 8020 / 9000/9820
NameNode HTTP UI 50070 9870
MapReduce查看执行任务端口 8088 8088
历史服务器通信端口 19888 19888

端口名称Hadoop2.xHadoop3.x
NameNode内部通信端口8020 / 90008020 / 9000/9820
NameNode HTTP UI500709870
MapReduce查看执行任务端口80888088
历史服务器通信端口1988819888

rsync和scp

scp -r test.txt hadoop@node1:/home/hadoop
rsync -av test.txt hadoop@node1:/home/hadoop

自定义通过脚本xsync

vim /home/hadoop/bin

#!/bin/bash#1. 判断参数个数
if [ $# -lt 1 ]
thenecho Not Enough Arguement!exit;
fi#2. 遍历集群所有机器
for host in node1 node2 node3
doecho ====================  $host  ====================#3. 遍历所有目录,挨个发送for file in $@do#4. 判断文件是否存在if [ -e $file ]then#5. 获取父目录pdir=$(cd -P $(dirname $file); pwd)#6. 获取当前文件的名称fname=$(basename $file)ssh $host "mkdir -p $pdir"rsync -av $pdir/$fname $host:$pdirelseecho $file does not exists!fidone
done
chmod +x xsync
xsync /home/hadoop/bin

在root用户下使用hadoop用户的xsync

sudo /home/hadoop/bin/xsync /export/server/Anaconda3-2021.05-Linux-x86_64.sh

服务器配置多版本python

su - root
上传到服务器包
https://repo.anaconda.com/archive/
Anaconda3-2021.05-Linux-x86_64.sh
分发node1,node2,node3安装包
sudo /home/hadoop/bin/xsync /export/server/Anaconda3-2021.05-Linux-x86_64.sh
安装执行
sh ./Anaconda3-2021.05-Linux-x86_64.sh

在这里插入图片描述
conda-env
base …

conda activate base
conda deactivate

在root用户安装了conda,其他用户无法使用

拷贝root用户下的.bashrc指定的用户

su - root
cp .bashrc /home/其他用户/.bashrc
su - 其他用户
source .bashrc

修改conda的文件夹权限,让其他用户有使用权限
···linux
chmod 777 /export/server/anaconda3

http://www.lryc.cn/news/103013.html

相关文章:

  • 文心一言 VS 讯飞星火 VS chatgpt (68)-- 算法导论6.5 7题
  • uniapp:手写签名,多张图合成一张图
  • DevExpress WPF Tree List组件,让数据可视化程度更高!(一)
  • Linux操作系统下安装python环境
  • JavaScript的宏任务和微任务
  • java的空引用null和空字符串““
  • Python+OpenCV实现自动扫雷,挑战扫雷世界记录!
  • XtarBackup 8.0.33-28 prepare 速度提升 20 倍!
  • Blazor前后端框架Known-V1.2.8
  • python模拟加密爬取诸葛
  • 安全学习DAY13_WEB应用源码获取
  • Selenium+Java环境搭建(测试系列6)
  • Shell编程学习-If条件语句
  • Android getDrawable()和getColor()
  • Android Calendar
  • C# PaddleDetection 目标检测 ( yolov3_darknet)
  • matlab多线程,parfor循环进度,matlab互斥锁
  • 建木使用进阶-创建密钥管理
  • 多模态第2篇:MMGCN代码配置
  • DHCP部署与安全详解
  • 华为数通HCIP-PIM原理与配置
  • linux 权限
  • SQL基础使用
  • 金蝶云星空任意文件读取漏洞复现(0day)
  • linux中readelf命令详解
  • Python 教程之标准库概览
  • MySQL~数据库的基本概念
  • uniapp文件下载
  • 让GPT人工智能变身常用工具-下
  • el-table 表格头部合并