当前位置: 首页 > news >正文

Hadoop初体验

一、HDFS初体验

  • 1. shell命令操作

  hadoop fs -mkdir /itcast     

  hadoop fs -put zookeeper.out /itcast     

  hadoop fs -ls /

  • 2. Web UI页面操作

结论:

  1. HDFS本质就是一个文件系统
  2. 有目录树结构 和Linux类似,分文件、文件夹
  3. 为什么上传一个小文件也这么慢?

二、MapReduce +YARN初体验

执行Hadoop官方自带的MapReduce案例     

评估圆周率π的值     

cd /export/server/hadoop-3.1.4/share/hadoop/mapreduce/

hadoop jar hadoop-mapreduce-examples-3.1.4.jar pi 2 4

思考:

  1. MapReduce本质是程序?
  2. 执行MapReduce的时候,为什么首先请求YARN?
  3. MapReduce看上去好像是两个阶段?
  4. 先Map,再Reduce?
  5. 处理小数据的时候,MapReduce速度快吗?

http://www.lryc.cn/news/540937.html

相关文章:

  • 在vue2中操作数组,如何保证其视图的响应式
  • CentOS的ssh复制文件
  • Spring Cloud — Hystrix 服务隔离、请求缓存及合并
  • Vmware虚拟机Ubantu安装Docker、k8s、kuboard
  • PHP建立MySQL持久化连接(长连接)及mysql与mysqli扩展的区别
  • python爬虫系列课程2:如何下载Xpath Helper
  • 【Python项目】基于Python的Web漏洞挖掘系统
  • 多环境日志管理:使用Logback与Logstash集成实现高效日志处理
  • idea连接gitee(使用idea远程兼容gitee)
  • STM32 看门狗
  • 飞书API
  • 深入解析 Hydra 库:灵活强大的 Python 配置管理框架
  • 【开源免费】基于Vue和SpringBoot的失物招领平台(附论文)
  • 科普:你的笔记本电脑中有三个IP:127.0.0.1、无线网 IP 和局域网 IP;两个域名:localhost和host.docker.internal
  • 测试WSS服务器
  • unity学习49:寻路网格链接 offMeshLinks, 以及传送门效果
  • Web 开发中的 5 大跨域标签解析:如何安全地进行跨域请求与加载外部资源
  • UMLS数据下载及访问
  • 23种设计模式 - 空对象模式
  • Redis三剑客解决方案
  • 大学本科教务系统设计方案,涵盖需求分析、架构设计、核心模块和技术实现要点
  • Docker Mysql 数据迁移
  • ubuntu22.04离线安装K8S
  • 微信小程序中将图片截图为正方形(自动居中)
  • 传统的自动化行业的触摸屏和上位机,PLC是否会被取代?
  • 【论文精读】VLM-AD:通过视觉-语言模型监督实现端到端自动驾驶
  • 2024年数字政府服务能力优秀创新案例汇编(附下载)
  • Ollama Docker 镜像部署
  • [深度学习][python]yolov12+bytetrack+pyqt5实现目标追踪
  • 【深度学习】矩阵的理解与应用