当前位置: 首页 > news >正文

spark获取hadoop服务token

spark 作业一直卡在accepted

  • 问题现象
  • 问题排查
    • 1.查看yarn app日志
    • 2.问题分析与原因

问题现象

通过yarn-cluster模式提交spark作业,客户端日志一直卡在submit app,没有运行

问题排查

1.查看yarn app日志

appid已生成,通过yarn查看app状态为等待am运行。具体查看am日志发现其一直在尝试访问hbase,尝试了36次后失败(集群hbase服务已正常停止)
在这里插入图片描述

问题:作业逻辑中不含hbase的相关内容,为什么会去访问hbase?

2.问题分析与原因

分析:
通过上面截图的堆栈信息查看从obtainDeletionTokens方法到HBaseDelegationTokenProvider的obtainDeletionTokens方法,说明这里是去尝试获取hbase的安全令牌。
(hbase的token获取的用户需要具有hbase:meta表的exec权限)

原因:
spark 官方文档

  • 在官网的文档描述:kerberos环境中,spark app在认证的时候,可能会获取hdfs、hive、hbase等服务的安全令牌。
  • 获取hbase的条件:hbase位于集群classpath,同时集群hbase开启了kerberos认证。
  • 所以 我们想跳过这个过程,需要提交作业时传入spark.yarn.security.credentials.hbase.enabled=false
http://www.lryc.cn/news/204741.html

相关文章:

  • Simulink 最基础教程(一)
  • 微信小程序:单行输入和多行输入组件
  • 1024程序员
  • 【Segment Anything Model】八:修改SAM源码做分类任务
  • Java后端开发——实现登录验证程序
  • CSS高频面试题
  • 解决matlab报错“输入参数的数目不足”
  • 使用python_opencv比较图像差异/使用python_opencv找出两张图像的差异范围
  • NOIP2023模拟1联测22 爆炸
  • http post协议实现简单的rpc协议,WireShark抓包分析
  • 1024程序员节
  • 嵌入式--->怎样选择编译语言,C C++或是Rust?
  • 一起学数据结构(12)——归并排序的实现
  • 读书笔记之《敏捷测试从零开始》(一)
  • 视频亮度太低了,如何调高
  • Xubuntu16.04系统中安装create_ap创建无线AP
  • WPF 设置全局静态参数
  • Leetcode链表问题汇总
  • 基于卷的磁盘扫描算法设计
  • 计算机组成原理-存储器概念
  • 力扣刷题 day54:10-24
  • Java基础篇 | Java8流式编程
  • SolidworksSimulation完成对压力容器的强度分析
  • 【C++】继承 ⑨ ( 继承中成员变量同名的处理方案 )
  • Python报错:‘EagerTensor‘ object has no attribute ‘reshape‘
  • docker-compose手册
  • 【珠峰 WEB 前端架构师课程】学习笔记 100 篇(完结)
  • Java线程中sleep()、wait()、yield()、join()方法的使用
  • 【机器学习】数据均衡学习笔记
  • 【软件教程】如何用C++交叉编译出能在Android运行的ELF程序或so动态库