当前位置: 首页 > news >正文

HBase基础知识(六):HBase 对接 Hive

1. HBase 与 Hive 的对比

1.Hive

(1) 数据仓库 Hive 的本质其实就相当于将 HDFS 中已经存储的文件在 Mysql 中做了一个双射关系,以 方便使用 HQL 去管理查询。

(2) 用于数据分析、清洗 Hive 适用于离线的数据分析和清洗,延迟较高。

(3) 基于 HDFS、MapReduce Hive 存储的数据依旧在 DataNode 上,编写的 HQL 语句终将是转换为 MapReduce 代码执 行。

2.HBase

(1) 数据库 是一种面向列族存储的非关系型数据库。

(2) 用于存储结构化和非结构化的数据 适用于单表非关系型数据的存储,不适合做关联查询,类似 JOIN 等操作。

(3) 基于 HDFS 数据持久化存储的体现形式是 HFile,存放于 DataNode 中,被 ResionServer 以 region 的形 式进行管理。

(4) 延迟较低,接入在线业务使用 面对大量的企业数据,HBase 可以直线单表大量数据的存储,同时提供了高效的数据访问 速度。

2. HBase 与 Hive 集成使用

尖叫提示:HBase 与 Hive 的集成在最新的两个版本中无法兼容。所以,我们只能含着泪勇 敢的重新编译:hive-hbase-handler-1.2.2.jar!!好气!!

<property><name>hive.zookeeper.quorum</name><value>hadoop100,hadoop101,hadoop102</value><description>The list of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>
</property>
​
<property><name>hive.zookeeper.client.port</name><value>2181</value><description>The port of ZooKeeper servers to talk to. This is only needed for read/write locks.</description>
</property>

配置好后分发到其他服务器上

1.案例一 目标:建立 Hive 表,关联 HBase 表,插入数据到 Hive 表的同时能够影响 HBase 表。

分步实现:

(1) 在 Hive 中创建表同时关联 HBase

CREATE TABLE hive_hbase_emp_table(
empno int,
ename string,
job string,
mgr int,
hiredate string,
sal double,
comm double,
deptno int)
STORED BY 'org.apache.hadoop.hive.hbase.HBaseStorageHandler'
WITH SERDEPROPERTIES ("hbase.columns.mapping" = 
":key,info:ename,info:job,info:mgr,info:hiredate,info:sal,info:comm,info:deptno")
TBLPROPERTIES ("hbase.table.name" = "hbase_emp_table");

提示:完成之后,可以分别进入 Hive 和 HBase 查看,都生成了对应的表

(2) 在 Hive 中创建临时中间表,用于 load 文件中的数据

提示:不能将数据直接 load 进 Hive 所关联 HBase 的那张表中

http://www.lryc.cn/news/269809.html

相关文章:

  • Java连接Mysql报错:javax.net.ssl.SSLException: Received fatal alert: internal_error
  • Mixtral 8*7B + Excel + Python 超强组合玩转数据分析
  • 深入浅出理解Web认证:Session、Cookie与Token
  • 智慧零售技术探秘:关键技术与开源资源,助力智能化零售革新
  • 2012年第一届数学建模国际赛小美赛B题大规模灭绝尚未到来解题全过程文档及程序
  • macos管理本地golang的多版本sdk
  • count distinct在spark中的运行机制
  • 创建加密分区或者文件
  • STL——遍历算法
  • C语言经典算法【每日一练】20
  • Linux磁盘阵列
  • 本地网络禁用了在哪里开启?
  • [mysql 基于C++实现数据库连接池 连接池的使用] 持续更新中
  • 【Flink SQL API体验数据湖格式之paimon】
  • idea导入spring-framework异常:error: cannot find symbol
  • Unity坦克大战开发全流程——开始场景——开始界面
  • 【SpringCloud】从实际业务问题出发去分析Eureka-Server端源码
  • Java 代理模式
  • 【Java干货教程】JSON,JSONObject,JSONArray类详解
  • 2023年高级软考系统架构师考题参考
  • 【c语言】飞机大战(1)
  • 关于 K8s 的一些基础概念整理
  • Node.js-fs、path、http模块
  • CentOS 安装WebLogic
  • Linux命令的操作练习
  • 杰发科技AC7840——EEPROM初探
  • WPF 基础入门(简介)
  • 【Unity动画系统】Animator有限状态机参数详解
  • php获取访客IP、UA、操作系统、浏览器等信息
  • 基于huffman编解码的图像压缩算法matlab仿真