当前位置: 首页 > news >正文

Yarn节点unhealthy解决办法

这几天用Spark计算任务时,发现yarn上有两个节点不参与计算,很是tm的离谱。

使用下面的命令查看Yarn上的nodemanager节点状态

yarn node -list -all

发现两个节点处于unhealthy状态。

经过Google查明原因:这种情况一般是因为那个节点上HDFS文件过多,导致剩余磁盘空间不足,一般解决方法是删除HDFS上不常用的文件。

或者更改yarn-site.xml下文件,添加或者修改这个参数:

<property>
<name>yarn.nodemanager.disk-health-checker.max-disk-utilization-per-disk-percentage</name>
<value>99.99</value>
</property>

该参数表示每块盘符的最高使用比例,超过该值该节点就会被列入不健康列表,并且不再使用该盘符参与计算任务。默认值为90%,将该值增大即可解决问题,可以更改至99.99%。

之后重启HDFS还有YARN即可,再次使用

yarn node -list -all

可以看到所有节点可以都变为正常状态,OK。

http://www.lryc.cn/news/13035.html

相关文章:

  • 【jumpServer 功能梳理】
  • 中国各省人力资本测算就业人员受教育程度构成(2000-2021年)
  • java面试题-集合篇
  • Python 异步: 同时运行多个协程(10)
  • SVN 获取多版本间的更新内容
  • c++ const使用说明
  • VSTO 开发 EXCEL 委托与多线程的极简示例
  • spring之使用Spring的AOP
  • LeetCode LCP 66. 最小展台数量
  • 设计模式之模板方法模式
  • Python数据挖掘基础
  • Go基础-函数
  • AC的改进算法——TRPO、PPO
  • 【C++学习】list的使用及模拟实现
  • 动态规划专题精讲1
  • PPO(proximal policy optimization)算法
  • ElasticSearch基本使用
  • windows微软商店下载应用失败/下载故障的解决办法;如何在网页上下载微软商店的应用
  • MySQL进阶篇之InnoDB存储引擎
  • 商标侵权行为的种类有哪些
  • Similarity-Preserving KD(ICCV 2019)原理与代码解析
  • 在Linux和Windows上安装seata-1.6.0
  • 兼职任务平台收集(二)分享给有需要的朋友们
  • 目标检测三大数据格式VOC,YOLO,COCO的详细介绍
  • SpringBoot实现统一返回接口(除AOP)
  • ChatGpt - 基于人工智能检索进行论文写作
  • 实例三:MATLAB APP design-多项式函数拟合
  • springboot多种方式注入bean获取Bean
  • Markdown及其语法详细介绍(全面)
  • 在Linux和Windows上安装sentinel-1.8.5