当前位置: 首页 > news >正文

Hadoop入门常见面试题与集群时间同步操作

目录

一,常用端口号

Hadoop3.x :

Hadoop2.x:

二,常用配置文件:

Hadoop3.x:

Hadoop2.x:

集群时间同步:

时间服务器配置(必须root用户):

(1)查看所有节点ntpd服务状态和开机自启动状态

(2)修改hadoop102的ntp.conf配置文件

 (3)修改hadoop102的/etc/sysconfig/ntpd 文件

(4)重新启动ntpd服务

关闭所有节点上ntp服务和自启动

在其他机器配置1分钟与时间服务器同步一次

添加定时任务:


一,常用端口号

Hadoop3.x :

HDFS  NameNode内部通信端口:8020 / 9000/9820

HDFS  NameNode对用户查询端口:9870

Yarn  MapReduce查看执行任务端口:8088

历史服务器端口:19888

Hadoop2.x:

HDFS  NameNode内部通信端口:8020 / 9000

HDFS  NameNode对用户查询端口:50070

Yarn  MapReduce查看执行任务端口:8088

历史服务器端口:19888

二,常用配置文件:

Hadoop3.x:

core-site.xml

hdfs-site.xml

yarn-site.xml

mapred-site.xml

workers

Hadoop2.x:

core-site.xml

hdfs-site.xml

yarn-site.xml

mapred-site.xml

slaves

集群时间同步:

如果服务器在公网环境(能连接外网),可以不采用集群时间同步,因为服务器会定期和公网时间进行校准;

如果服务器在内网环境,必须要配置集群时间同步,否则时间久了,会产生时间偏差,导致集群执行任务时间不同步。

找一个机器,作为时间服务器,所有的机器与这台集群时间进行定时的同步,生产环境根据任务对时间的准确程度要求周期同步。测试环境为了尽快看到效果,采用1分钟同步一次。

时间服务器配置(必须root用户):

(1)查看所有节点ntpd服务状态和开机自启动状态

systemctl status ntpd     ------检查时间服务器是否打开

         systemctl start ntpd  ------开启时间服务器

 

      systemctl is-enabled ntpd  ----设置开机是否启动ntpd服务

(2)修改hadoop102的ntp.conf配置文件

修改配置文件,设置那些服务器与这台服务器同步:

vim /etc/ntp.conf

末尾添加:

server 127.127.1.0
fudge 127.127.1.0 stratum 10

 下图去掉了注释,改了自己的IP区间:

restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap

下边几行注释了起来 

 (3)修改hadoop102的/etc/sysconfig/ntpd 文件

vim /etc/sysconfig/ntpd

增加内容如下(让硬件时间与系统时间一起同步---硬件时间更准确)

SYNC_HWCLOCK=yes

(4)重新启动ntpd服务

systemctl start ntpd

关闭所有节点上ntp服务和自启动

systemctl stop ntpd
systemctl disable ntpd

在其他机器配置1分钟与时间服务器同步一次

crontab -e

添加定时任务:

*/1 * * * * /usr/sbin/ntpdate hadoop102

Hadoop入门就此终结,下面跟我一起更新学习HDFS吧! 

http://www.lryc.cn/news/38163.html

相关文章:

  • JS 数组去重的方法
  • PMP项目管理项目沟通管理
  • 2.JVM常识之 运行时数据区
  • 你的游戏帐号是如何被盗的
  • C++11异步编程
  • 20230310----重返学习-DOM元素的操作-时间对象-定时器
  • 江苏专转本转本人后悔排行榜
  • 【算法时间复杂度】学习记录
  • 汽车车机芯片Linux系统内核编译问题总结
  • Android13 音量曲线调整
  • OpenHarmony通过MQTT连接 “改版后的华为IoT平台”
  • SQS (Simple Queue Service)简介
  • 高速PCB设计指南系列(三)
  • 【C++】C++11——左右值|右值引用|移动语义|完美转发
  • [ROC-RK3399-PC Pro] 手把手教你移植主线Buildroot(基于2023.02-rc3版本)
  • 重温线性代数
  • 2023河北沃克HEGERLS甘肃金昌重型仓储项目案例|托盘式四向穿梭车智能密集存储系统在工业行业的创新应用
  • 软件测试的案例分析 - 闰年5
  • Linux文件基础I/O
  • HTML看这一篇就够啦,HTML基础大全,可用于快速回顾知识,面试首选
  • Altium Designer(AD)软件使用记录05-PCB叠层设计
  • ArcGIS动态表格批量出图
  • ChatGPT真神奇,但是也真焦虑
  • mos管驱动与米勒平台介绍、消除
  • 20230311英语学习
  • 【面试题】Nginx面试题汇总(无解答)
  • Java面试总结(六)
  • Windows逆向安全(一)C与汇编的关系
  • Lazada、Allegro、速卖通测评自养号技术(方法解析)
  • Vue3的composition API—setup函数, ref函数,reactive函数