当前位置: 首页 > news >正文

Hadoop 集群一直处于安全模式,强制退出后出现数据丢失警告。解决方法

文章目录

      • 安全模式相关命令
      • 分析集群为什么一直处于安全模式
      • 解决方法

安全模式相关命令

# 查看安全模式状态
hdfs dfsadmin -safemode get# 进入安全模式
hdfs dfsadmin -safemode enter# 离开安全模式
hdfs dfsadmin -safemode leave# 强制退出安全模式
hdfs dfsadmin -safemode forceExit# 等待安全模式
hdfs dfsadmin -safemode wait

等待安全模式,通常情况下在脚本中使用,当集群退出安全模式后,立马执行相关操作。

分析集群为什么一直处于安全模式

集群启动后,发现一直处于安全模式中,进入 WEB 界面查看,还有一大段提示,如下:

在这里插入图片描述

系统报告称,共有 6288 个数据块,还需要额外的 16 个数据块才能达到总共 6311 个数据块的阈值 0.999

通俗来说就是,当前系统中元数据与记录数据块前后不一致,而 Hadoop 默认要求最大的误差阀值为 0.001,如果超过这个值,就会导致 Hadoop 一直处于安全模式。

在这里插入图片描述

也就是说,我们其实已经实际删除了某些数据块,但是记录的元数据因为一些故障导致没有进行同步,就会出现这种情况。

解决方法

首先强制退出安全模式:

hdfs dfsadmin -safemode forceExit

接着,我们进入 WEB 管理界面,刷新一下。

在这里插入图片描述

此时,我们就会发现那些数据块丢失的文件,将这些文件按照路径在 HDFS 中全部删除即可。

如果你想要对文件进行恢复,那么则需要请教相关专业人士,使用磁盘修复工具进行处理。

删除完成后,我们重启集群,进入 WEB 界面查看是否正常:

在这里插入图片描述


如果删除过程中遇到报错,如下所示:

Permission denied: user=master, access=WRITE, inode=“/benchmarks/TestDFSIO”:root:supergroup:drwxr-xr-x

权限不足,无法进行写操作。

我们需要先使用 root 账号对操作目录授权,或者直接关闭 HDFS 权限验证。

方法一

# 使用 `root` 账号对操作目录授权
hdfs dfs -chmod -R 777 /benchmarks/TestDFSIO

方法二

不建议,会影响集群安全。

# 直接关闭 HDFS 权限验证,在 hdfs-site.xml 文件中添加如下配置:
<property><name>dfs.permissions</name><value>false</value>
</property>

添加完成后,分发同步该文件,重启集群后生效。

http://www.lryc.cn/news/154692.html

相关文章:

  • 四旋翼飞行器基本模型(MatlabSimulink)
  • P1116 车厢重组(冒泡排序)
  • Android逆向学习(番外一)smali2java部分文件无法反编译的bug与修复方法
  • go语言基本操作---三
  • ArcGIS Enterprise + ArcGIS Pro 常用服务类型发布
  • 优思学院|亲和图案例:寻找六西格玛的项目
  • tomcat 的缓存机制
  • laravel 压缩文件与解压文件
  • kind搭建k8s集群用于测试
  • 软件测试人需要掌握的测试知识架构体系(上)
  • QT数据库,实现数据库增删改查
  • SQL-子查询
  • 【8章】Spark编程基础(Python版)
  • 桌面应用小程序,一种创新的跨端开发方案
  • 将本地jar打包到本地maven仓库或maven私服仓库中
  • java 实现建造者模式
  • 串行FIR滤波器
  • Spring Boot 整合 Shiro(后端)
  • 面试中的自我介绍:首印象决定一切
  • 深入理解联邦学习——联邦学习的价值
  • linux 内存一致性
  • Vue 如何监听 localstorage的变化
  • ActiveMQ使用JDBC持久化消息
  • 光环云出席Enjoy出海AIGC主题研讨会,助力企业迎接AI时代机遇与挑战
  • 动态规划:路径和子数组问题(C++)
  • 微服务-gateway跨域配置
  • 爬虫项目(二):中国大学排名
  • 十二、MySQL(DQL)分组/排序/分页查询如何实现?
  • 设计模式概念学习
  • Spring MVC 五 - DispatcherServlet初始化过程(续)