当前位置: 首页 > news >正文

Hive3.1.3加载paimon-hive-connector-3.1-1.1.1.jar报错UnsatisfiedLinkError

mkdir /app/apache-hive-3.1.3-sqg-bin/auxlib

cp paimon-hive-connector-3.1-1.1.1.jar /app/apache-hive-3.1.3-sqg-bin/auxlib/

查询paimon表时报错

Exception in thread "main" java.lang.UnsatisfiedLinkError: com.github.luben.zstd.ZstdInputStreamNoFinalizer.recommendedDInSize()J
        at com.github.luben.zstd.ZstdInputStreamNoFinalizer.recommendedDInSize(Native Method)
        at com.github.luben.zstd.ZstdInputStreamNoFinalizer.<clinit>(ZstdInputStreamNoFinalizer.java:35)
        at org.apache.paimon.shade.org.apache.avro.file.ZstandardLoader.input(ZstandardLoader.java:38)
        at org.apache.paimon.shade.org.apache.avro.file.ZstandardCodec.decompress(ZstandardCodec.java:84)
        at org.apache.paimon.shade.org.apache.avro.file.DataFileStream$DataBlock.decompressUsing(DataFileStream.java:392)
        at org.apache.paimon.shade.org.apache.avro.file.DataFileStream.hasNext(DataFileStream.java:226)
        at org.apache.paimon.format.avro.AvroBulkFormat.replaceAvroRuntimeException(AvroBulkFormat.java:156)
        at org.apache.paimon.format.avro.AvroBulkFormat.access$200(AvroBulkFormat.java:43)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readNextBlock(AvroBulkFormat.java:119)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readBatch(AvroBulkFormat.java:103)
        at org.apache.paimon.format.avro.AvroBulkFormat$AvroReader.readBatch(AvroBulkFormat.java:57)
        at org.apache.paimon.reader.RecordReaderIterator.<init>(RecordReaderIterator.java:37)
        at org.apache.paimon.reader.RecordReader.toCloseableIterator(RecordReader.java:210)
        at org.apache.paimon.utils.ObjectsFile.createIterator(ObjectsFile.java:186)
        at org.apache.paimon.utils.ObjectsFile.readWithIOException(ObjectsFile.java:153)
        at org.apache.paimon.utils.ObjectsFile.read(ObjectsFile.java:134)
        at org.apache.paimon.utils.ObjectsFile.read(ObjectsFile.java:105)
        at org.apache.paimon.manifest.ManifestList.readDataManifests(ManifestList.java:90)
        at org.apache.paimon.operation.ManifestsReader.readManifests(ManifestsReader.java:128)
        at org.apache.paimon.operation.ManifestsReader.read(ManifestsReader.java:114)
        at org.apache.paimon.operation.AbstractFileStoreScan.readManifests(AbstractFileStoreScan.java:417)
        at org.apache.paimon.operation.AbstractFileStoreScan.plan(AbstractFileStoreScan.java:257)
        at org.apache.paimon.table.source.snapshot.SnapshotReaderImpl.read(SnapshotReaderImpl.java:318)
        at org.apache.paimon.table.source.snapshot.ReadPlanStartingScanner.scan(ReadPlanStartingScanner.java:45)
        at org.apache.paimon.table.source.DataTableBatchScan.plan(DataTableBatchScan.java:77)
        at org.apache.paimon.hive.utils.HiveSplitGenerator.generateSplits(HiveSplitGenerator.java:100)
        at org.apache.paimon.hive.mapred.PaimonInputFormat.getSplits(PaimonInputFormat.java:45)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.generateWrappedSplits(FetchOperator.java:425)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getNextSplits(FetchOperator.java:395)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getRecordReader(FetchOperator.java:314)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.getNextRow(FetchOperator.java:540)
        at org.apache.hadoop.hive.ql.exec.FetchOperator.pushRow(FetchOperator.java:509)
        at org.apache.hadoop.hive.ql.exec.FetchTask.fetch(FetchTask.java:146)
        at org.apache.hadoop.hive.ql.Driver.getResults(Driver.java:2691)
        at org.apache.hadoop.hive.ql.reexec.ReExecDriver.getResults(ReExecDriver.java:229)
        at org.apache.hadoop.hive.cli.CliDriver.processLocalCmd(CliDriver.java:259)
        at org.apache.hadoop.hive.cli.CliDriver.processCmd(CliDriver.java:188)
        at org.apache.hadoop.hive.cli.CliDriver.processLine(CliDriver.java:402)
        at org.apache.hadoop.hive.cli.CliDriver.executeDriver(CliDriver.java:821)
        at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:759)
        at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:683)
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:498)
        at org.apache.hadoop.util.RunJar.run(RunJar.java:323)
        at org.apache.hadoop.util.RunJar.main(RunJar.java:236)

解决办法:
由于paimon-hive-connector-3.1-1.1.1.jar中zstd版本冲突,需要将zstd-jni-1.3.2-2.jar移出hive lib目录

mv /app/apache-hive-3.1.3-sqg-bin/lib/zstd-jni-1.3.2-2.jar /app/apache-hive-3.1.3-sqg-bin/ 

如果还报错要检查是否安装zstd

http://www.lryc.cn/news/575439.html

相关文章:

  • C++ Programming Language —— 第3章:运算符
  • HDFS(Hadoop分布式文件系统)总结
  • 【unitrix】 4.7 库数字取反(not.rs)
  • 组织策略性陪伴顾问
  • Java后端中的并发控制:从锁机制到无锁编程的实现
  • 供应链管理:主要生产计划类型及其相关信息
  • Vue-14-前端框架Vue之应用基础嵌套路由和路由传参
  • 【fish-speech】新模型openaudio-s1-mini尝鲜
  • 【windows处理技巧】如何缩小PDF
  • R语言机器学习算法实战系列(二十六)基于tidymodels的XGBoost二分类器全流程实战
  • 【力扣 困难 C】32. 最长有效括号
  • 数据结构进阶 - 第三章 栈与队列
  • ubuntu 下cursor的安装
  • 深入了解 AWS EventBridge
  • 多相机人脸扫描设备如何助力高效打造数字教育孪生体?
  • Java设计模式->责任链模式的介绍
  • 书籍在行列都排好序的矩阵中找数(8)0626
  • 【音视频】Ubuntu下配置ffmpeg库
  • Maven Javadoc 插件使用详解
  • 【WebSocket】学习总结
  • Python 数据分析与可视化 Day 8 - Pandas 高级操作技巧
  • MFC制作动态波形图( ChartCtrl)
  • Python(一)实现一个爬取微信小程序数据的爬虫+工程化初步实践
  • 【FR801xH】Ubuntu24.04搭建富芮坤FR801xH系列开发环境教程
  • 美团京东Clean Architecture实战
  • 【算法深练】栈特性的解题密码:LIFO规则在题型中的灵活运用
  • 生僻字处理工具类
  • 价格敏感带争夺战!澳洲电商双雄增长密码,3大本土护城河尚存
  • C# 项目使用obfuscar混淆
  • 华曦达港股IPO递表,AI Home生态构建智能生活新蓝图