当前位置: 首页 > news >正文

HBase snapshot+replication 测试

一、背景
画像标签服务(CDP)是核心服务,被公司其他系统如现金、电商、风控等核心业务调用。异常的话,影响范围大。

二、目标
存量数据测试通过 snapshot 迁移。增量数据测试通过 replication 同步。

三、测试
方案二测试,两个独立HBase集群,snapshot+replication
(1)存量数据迁移 (snapshot)
1、同步数据到目标hbase集群

hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot \
-snapshot test_20240315_1 \
-copy-from hdfs://10.9.21.38:8020/hbase \
-copy-to hdfs://10.9.21.38:8020/hbase_new \
-mappers 1 \
-bandwidth 128

在这里插入图片描述
在这里插入图片描述
以上命令产生的 Yarn 任务:
在这里插入图片描述
2、在目标hbase集群上查询数据

restore_snapshot 'test_20240315_1'
scan 'test'

在这里插入图片描述
(2)增量数据同步 (replication)
1、原集群上执行。增加从集群。

add_peer '1', CLUSTER_KEY => "10.9.109.203:2181:/hbase_new"
list_peers

在这里插入图片描述
2、原集群上执行。修改表属性,设置复制目标从集群。

alter 't2024',{NAME => 'cf1' , REPLICATION_SCOPE=>'1'}

在这里插入图片描述
3、原集群上执行。写入数据。
在这里插入图片描述
4、从集群上执行。从集群确认数据同步成功。
在这里插入图片描述

http://www.lryc.cn/news/423460.html

相关文章:

  • 代码随想录算法训练营第四十一天|图论基础、深度优先搜索理论基础、98. 所有可达路径、797. 所有可能的路径
  • STM32学习笔记09-SPI通信
  • 树------二叉树
  • 如何对加密后的数据进行模糊查询(面试题)
  • 【MYSQL】当前读和快照读
  • C语言-使用数组法,指针法实现将一个5X5的矩阵中最大的元素放在中心,四个角分别放四个最小的元素(顺序为从左到右,从上到下,从小到大存放),写一函数实现之。
  • Android gradle 构建
  • vulnhub系列:devguru
  • Robot Operating System——高质量图像传输
  • NLP_情感分类_预训练加微调方案
  • 全网最适合入门的面向对象编程教程:36 Python的内置数据类型-字典
  • DataWind看板绘制案例
  • Golang | Leetcode Golang题解之第335题路径交叉
  • C# 在Word中插入或删除分节符
  • 基于STM32+Qt设计的无人超市收银系统(206)
  • 开源免费的表单收集系统TDuck
  • Python 生成器、迭代器、可迭代对象 以及应用场景
  • 马斯克对欧盟的反应
  • uniapp + 安卓APP + H5 + 微信小程序实现PDF文件的预览和下载
  • Elasticsearch 8 RAG 技术分享
  • 根据字典值回显,有颜色的
  • 多台PC网络ADB连接同一台RK3399 Android7.1.2设备
  • 前端黑科技:使用 JavaScript 实现网页扫码功能
  • 【人工智能】全景解析:【机器学习】【深度学习】从基础理论到应用前景的【深度探索】
  • MySQL与PostgreSQL语法区别
  • vue2+OpenLayers 天地图上凸显出当前地理位置区域(4)
  • 基于Python、Django开发Web计算器
  • 高性能并行计算面试-核心概念-问题理解
  • java-activiti笔记
  • Layui——隐藏表单项后不再进行验证