当前位置: 首页 > news >正文

Linux环境运行Maven 生成的hadoop jar包

运行命令:

hadoop jar ./jar包名字   class对象路径   输入路径   输出路径

 

linux内部jar包测试

cd  到以下目录,创建以下文件夹

[root@reagan180 ~]# cd  /opt/soft/hadoop313/share/hadoop/mapreduce/

 创建文件夹(读取路径)

[root@reagan180 mapreduce]# hdfs dfs -mkdir /inpath

 创建文本文件,内容随意编写

 [root@reagan180 mapreduce]# vim aa.txt

移动文件到读取路径 

[root@reagan180 mapreduce]# hdfs dfs -put ./aa.txt /inpath

然后运行命令:写入路径会自己创建,但是如果存在,会报错,修改路径即可

[root@reagan180 mapreduce]# hadoop jar ./hadoop-mapreduce-examples-3.1.3.jar wordcount /inpath /outpath

创建jar包

 方法1:打开ideal,找到需要导成Jar包的driver类 

先编译 点击complie:

 

然后打包 点击 package:

 

打包成功后,jar会生成在target目录下

将jar包放在linux里的opt目录下

 

 然后输入命令运行:因为读取和写入路径已经写在class对象,此处可省略:

class对象路径:右击对象名

 

[root@reagan180 opt]#hadoop jar ./hadoopstu-1.0-SNAPSHOT.jar nj.zb.kb21.demo4.StudentDriver

路径:方法2 采用psvm 里的arg[ ] 集合元素  更加灵活

设置元素为: /inpath  /outpath

 

 

 重复上面打成jar包操作

命令需要做个调整,加上读取和输入路径:

[root@reagan180 opt]#hadoop jar ./hadoopstu-1.0-SNAPSHOT.jar nj.zb.kb21.demo4.StudentDriver /bigdata/in/demo2/stuscore.csv  /bigdata/out4.2

补充:启动 JobHistoryServer命令  : 

mr-jobhistory-daemon.sh start historyserver :

http://www.lryc.cn/news/1837.html

相关文章:

  • ThreadPoolExecutor原理解析
  • 谷粒学苑第二章前端框架-2.2前端框架开发过程
  • 权限管理实现的两种方式(详解)
  • 【C++】智能指针思路解析和模拟实现
  • SpringCloud(18):Sentinel流控降级入门
  • C++【多态】
  • 缓存预热、缓存雪崩、缓存击穿、缓存穿透,你真的了解吗?
  • 【Java基础】018 -- 面向对象阶段项目上(拼图小游戏)
  • 【网络~】
  • 手写JavaScript中的call、bind、apply方法
  • JAVA练习46-将有序数组转换为二叉搜索树
  • linux(centos7.6)docker
  • 微信小程序滚动穿透问题
  • 安全—06day
  • PostgreSQL入门
  • 自媒体人都在用的免费音效素材网站
  • Java数据结构中二叉树的深度解析及常见OJ题
  • 算法顶级比赛汇总
  • Android MVI框架搭建与使用
  • 第九节 使用设备树实现RGB 灯驱动
  • Ubuntu 系统下Docker安装与使用
  • DHCP安全及防范
  • 【流畅的python】第一章 Python数据模型
  • from文件突然全部变为类cs右击无法显示设计界面
  • 使用arthas中vmtool命令查看spring容器中对象的某个属性
  • 四种幂等性解决方案
  • 【Nacos】Nacos配置中心客户端配置更新源码分析
  • 按钮防抖与节流-vue2
  • PyTorch学习笔记:nn.SmoothL1Loss——平滑L1损失
  • 2年时间,涨薪20k,想拿高薪还真不能老老实实的工作...