当前位置: 首页 > news >正文

解决SparkSQL创建出来的数据库hive中无法识别的问题

废话不多说,在我们启动Hive的metastore、hiveserver2和spark的thriftserver 服务后,使用datagrip连接spark发现连接正常。

在控制台,创建数据库后发现Hive无法识别:

我们去查看Hive的元数据库的DBS表,发现abc 这个数据库创建的地址错误,创建在了本地,没有创建在我们的HDFS路径下:

 这个原因是:

Spark未成功关联Hive Metastore,Spark对Hive表的支持依赖于Hive的元数据服务,如果Spark无法读取Hive的元数据配置,会默认使用内置的Derby数据库作为本地元数据存储,导致创建的库表只存在于Spark本地的Derby中,Hive自然无法识别。

解决方案:

1.在hive的conf中修改hive-site.xml

<property><name>hive.metastore.schema.verification</name><value>false</value>
</property>

2.将hive-site.xml 复制到 spark的conf 下 

cp /opt/installs/hive/conf/hive-site.xml /opt/installs/spark/conf

 3.修改spark下的hive-site.xml

<property><name>hive.server2.thrift.port</name><value>10001</value><description>Port number of HiveServer2 Thrift interface when hive.server2.transport.mode is 'binary'.</description></property>

4.不要忘了分发: 

xsync.sh /opt/installs/spark/conf/hive-site.xml

5.重启thrift服务:

/opt/installs/spark/sbin/stop-thriftserver.sh/opt/installs/spark/sbin/start-thriftserver.sh --hiveconf hive.server2.thrift.port=10001 --hiveconf hive.server2.thrift.bind.host=bigdata01 --master yarn --conf spark.sql.shuffle.partitions=2

使用datagrip 重新连接一下,记得刷新一下连接。

测试一下:

 至此,成功!

http://www.lryc.cn/news/606093.html

相关文章:

  • 切割液性能智能调控系统与晶圆 TTV 预测模型的协同构建
  • toFixed()方法的报错注意
  • Python 程序设计讲义(47):组合数据类型——字典类型:创建字典
  • MySQL常用函数总结
  • 2025年7月最新一区SCI-基尔霍夫定律优化算法Kirchhoff’s law algorithm-附Matlab免费代码
  • [硬件电路-109]:模拟电路 - 自激振荡器的原理,一种把直流能量转换成交流信号的装置!
  • 专题:2025半导体行业研究报告:从AI芯片到封测突围的生死局|附40+份报告PDF、数据汇总下载
  • Apifox 7 月更新|通过 AI 命名参数及检测接口规范、在线文档支持自定义 CSS 和 JavaScript、鉴权能力升级
  • 鸿蒙拉起系统定位和app授权定位
  • 光伏热斑误检率↓79%!陌讯多模态融合算法在智慧能源的落地优化
  • 当文档包含图文混排表格时,如何结合大模型(如DeepSeek-VL)和OCR提取数据
  • 一次 web 请求响应中,通常那个部分最耗时?
  • Flutter module 是如何被原生 Android 项目通过 Gradle 引入的
  • Flutter Chen Generator - yaml配置使用
  • 原生安卓与flutter混编的实现
  • 是否需要买一个fpga开发板?
  • 嵌入式硬件学习(十)—— LED驱动+杂项设备驱动
  • 【Unity】实现小地图
  • TDengine 中 TDgp 中添加算法模型(异常检测)
  • 【大模型理论篇】跨语言AdaCOT
  • Flutter 页面跳转及传参总结
  • 8.2-使用字符串存储 UTF-8 编码文本
  • RAG:让AI更聪明的“外接大脑“ | AI小知识
  • ECMAScript2023(ES14)新特性
  • C# 基于halcon的视觉工作流-章27-带色中线
  • HTM 5 的离线储存的使用和原理
  • JavaEE初阶1.0
  • 认知绞肉机:个体实践视域下认知暴力与元认知升维的活体实验研究
  • 今日做题练习
  • 记录自己使用gitee和jenkins