当前位置: 首页 > news >正文

Apache Sqoop使用

1. Sqoop介绍

Apache Sqoop 是在 Hadoop 生态体系和 RDBMS 体系之间传送数据的一种工具。
Sqoop 工作机制是将导入或导出命令翻译成 mapreduce 程序来实现。在翻译出的 mapreduce 中主要是对 inputformat 和 outputformat 进行定制。

Hadoop 生态系统包括:HDFS、Hive、Hbase 等
RDBMS 体系包括:MySQL、Oracle、DB2 等
Sqoop 可以理解为:“SQL 到 Hadoop 和 Hadoop 到 SQL”。

在这里插入图片描述
站在 Apache 立场看待数据流转问题,可以分为数据的导入导出:
Import:数据导入。RDBMS----->Hadoop
Export:数据导出。Hadoop---->RDBMS

2. Sqoop导入——import

2.1 全量导入MySQL表数据到HDFS

从 MySQL 数据库服务器中的 userdb.emp 表导入到 HDFS。

bin/sqoop import \
--connect jdbc:mysql://node-1:3306/userdb \
--username root \
--password 123456 \
--delete-target-dir \
--target-dir /sqoopresult \
--table emp \	
--m 1

–target-dir 用来指定导出数据存放至 HDFS 的目录;
–m 用来指定导入时使用几个map任务进行并行;
。。。。。。
。。。。。
。。。。
。。。
。。

更多用法请参考: Sqoop详细使用

http://www.lryc.cn/news/252538.html

相关文章:

  • 【UGUI】实现UGUI背包系统的六个主要交互功能
  • 电压驻波比
  • Open3D 最小二乘拟合二维直线(直接求解法)
  • 面试题目总结(二)
  • TrustZone概述
  • [go 面试] Go Kit中读取原始HTTP请求体的方法
  • 小程序如何刷新当前页面?
  • ChatGPT使用路径:从新手到专家的指南
  • VsCode 调试 MySQL 源码
  • Mysql中的正经行锁、间隙锁和临键锁
  • 最强AI之风袭来,你爱了吗?
  • 时间序列预测实战(二十三)进阶版LSTM多元和单元预测(课程设计毕业设计首选)
  • Python之Appium 2自动化测试(Android篇)
  • chromium通信系统-ipcz系统(四)-ipcz-分层、和mojo的关系以及handle
  • 推荐一些研发人员经常用到的免费API接口
  • 高薪资是跳出来的,好工作是面出来的~
  • 记QListWidget中QPushButton QSS样式失效的“bug”
  • python提取通话记录中的时间信息
  • DSShop移动商城网店系统 反序列化RCE漏洞复现
  • docker搭建node环境开发服务器
  • 传统制造业企业如何实现数字化转型?
  • 面试:说一下深拷贝,浅拷贝,引用拷贝吧;Object类中的clone是哪种呢?
  • 接口压测指南
  • 计算机辅助药物设计AIDD-小分子-蛋白质|分子生成|蛋白质配体相互作用预测
  • 深度学习-yolo目标检测-机器学习-计算机视觉-python学习路线(呕心沥血出品-绝对精品-附资源链接)
  • ubuntu2204 防火墙ufw限制某ip对某端口的访问
  • 常见代码优化案例记录
  • 【android开发-04】android中activity的生命周期介绍
  • java后端技术演变杂谈(未完结)
  • UDS 诊断报文格式