当前位置: 首页 > news >正文

ubuntu中idea创建spark项目步骤

1.前置条件

  • ubuntu中已经安装idea,jdk,scala,spark

2.打开idea,新建,选择Maven项目

在这里插入图片描述

3.在IDEA中,File-Setting-Plugin,下载Scala插件

在这里插入图片描述

4.File-project structure,导入插件

在这里插入图片描述

4.1在全局库中,选择导入刚才的scala插件

在这里插入图片描述

4.2在项目库中,导入spark安装目录jar包所在路径

在这里插入图片描述

5.在原项目的main目录下新建scala文件夹,并右击,将其设置为Source Root,在scala文件夹下,右击新建scala型Object文件WordCount。

在这里插入图片描述

6.在pom.xml中添加如下内容:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
然后再pom.xml的右上角点击Load Maven Change,自动下载各个依赖包文件。

注意scala版本和spark版本可以在cmd窗口输入spark-shell进行查看。
在这里插入图片描述

7.此时在WordCount.scala中输入测试代码,及导入spark包不会报错。

在这里插入图片描述

http://www.lryc.cn/news/356522.html

相关文章:

  • 回文链表(快慢指针解法之在推进过程中反转)
  • 深度剖析:为什么 Spring 和 IDEA 都不推荐使用 @Autowired 注解
  • 【接口自动化_05课_Pytest接口自动化简单封装与Logging应用】
  • 信息学奥赛初赛天天练-14-阅读程序-字符数组、唯一分解定理应用
  • K210 数字识别 笔记
  • 人脸检测--FaceNet(四)
  • Android性能优化方案
  • 视频监控平台AS-V1000 的场景管理,一键查看多画面视频的场景配置、调用、管理(一键浏览多路视频)
  • 微服务架构五大设计模式详解,助你领跑行业
  • 【problem】解决EasyExcel导出日期数据显示为#####问题
  • Pytest用例自定义 - 重复、并行、串行
  • 前端项目上线
  • redis基本数据结构与应用
  • Python pands使用引擎实现excel条件格式
  • 基于 vuestic-ui 实战教程 - 登录篇
  • SAPUI5基础知识2 - 手动创建一个SAPUI5的项目
  • 设计模式--访问者模式
  • onnx模型转换到rknn脚本
  • 防御恶意爬虫攻击
  • 【自动驾驶技术栈学习】2-软件《大话自动驾驶》| 综述要点总结 by.Akaxi
  • SRS视频服务器应用研究
  • 没有括号的字符串四则运算
  • vue2 $set 后期添加响应式数据的问题,使用vm.$set()
  • 笔记-X86下用Docker运行ARM64编译Libreoffice
  • 力扣:92. 反转链表 II(Java)
  • [less配置]vue2引入less
  • 物理内存与虚拟内存的区别
  • MySQL数据库案例实战教程:数据类型、语法与高级查询详解
  • 操作系统——用户态与内核态、同步与异步、阻塞与阻塞
  • C# VSTO读取Excel单元格Value、Value2