当前位置: 首页 > news >正文

【大数据学习篇3】HDFS命令操作与MR单词统计

1. HDFS命令使用

[root@master bin]# su hd
[hd@master bin]$ 
#查看/目录
[hd@master bin]$ hdfs dfs -ls /

5

#在/目录创建一个为test名字的文件夹
[hd@master bin]$ hdfs dfs -mkdir /test
#查看/目录
[hd@master bin]$ hdfs dfs -ls 
Found 1 items
drwxr-xr-x   - hd supergroup          0 2020-02-27 01:02 /test
#创建一个本地的txt文件
[hd@master ~]$ echo "abc123def456" > hello.txt 
#把创建的文件上传到hdfs
[hd@master ~]$ hdfs dfs -put hello.txt  / 
#在hdfs查看上传的文件
[hd@slave02 ~]$ hdfs dfs -cat /hello.txt
abc123def456
#下载hdfs文件到本地的linux当前目录
[hd@slave02 ~]$ ll
total 0
drwxrwxr-x. 4 hd hd 30 Feb 26 23:08 apps
#下载hdfs文件到当前目录
[hd@slave02 ~]$ hdfs dfs -get /hello.txt .
[hd@slave02 ~]$ ll
total 4
drwxrwxr-x. 4 hd hd 30 Feb 26 23:08 apps
-rw-r--r--. 1 hd hd 13 Feb 27 01:13 hello.txt
[hd@slave02 ~]$ 
[hd@slave02 ~]$ cat hello.txt 
abc123def456

 

MapReduct执行单词统计的程序

#创建文件
[hd@master ~]$ vi words.txt
Hello World Bye World
Hello Hadoop Bye Hadoop
Bye Hadoop Hello Hadoop
#上传文件
[hd@master ~]$ hdfs dfs -mkdir /word
[hd@master ~]$ hdfs dfs -put words.txt /word
#执行单词统计的样例
[hd@master hadoop]$ hadoop jar /home/hd/apps/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.0.0.jar wordcount /word/words.txt /out
http://www.lryc.cn/news/66696.html

相关文章:

  • java中设计模式总结
  • ChatGPT不到1分钟生成全部代码,你就说慌不慌吧?
  • Python进阶知识(1)—— 什么是爬虫?爬文档,爬图片,万物皆可爬,文末附模板
  • 如何在andorid native layer中加log function.【转】
  • FreeRTOS 空闲任务
  • 快速生成HTML结构语法、快速生成CSS样式语法以及emmet
  • 企业直播该如何做?硬件设备、网络环境、设备连接和观看权限等整个直播流程教程
  • 第4章 静态网站部署
  • 免费版的mp3格式转换器有哪些?这三款软件帮你实现!
  • 版本控制器git
  • 接口自动化测试 vs. UI自动化测试:为什么前者更快,更省力,更稳定?
  • 看Chat GPT解答《情报学基础教程》课后思考和习题
  • 线程同步、生产者消费模型和POSIX信号量
  • (六)实现好友管理:教你如何在即时通信系统中添加好友
  • 使用循环数组和环形链表实现双端队列
  • 谁想和我一起做低代码平台!一个可以提升技术,让简历装x的项目
  • 知识推理——CNN模型总结(一)
  • OpengES中 GLSL优化要点
  • 项目集角色定义
  • Unreal Engine11:触发器和计时器的使用
  • Qt之信号槽原理
  • 【MySqL】 表的创建,查看,删除
  • Python 字典修改对应的键值
  • 【JFace】ComboViewer 设置了默认值,但没有效果
  • 基于Redis的Stream结构作为消息队列,实现异步秒杀下单
  • ePWM模块-时基模块(2)
  • 让GPT对话写小说
  • Docker 应用部署-MySQL
  • 电容笔哪个厂家的产品比较好?苹果平板的电容笔推荐
  • 今年的面试难度有点大....