当前位置: 首页 > news >正文

hadoop+spark中8088,18080,19888,4040端口页面的区别

        在hadoop集群中,本身就有 9870端口,8088端口,19888端口 这三个页面,当使用spark作为计算引擎时,会多出8080,4040,18080这三个页面,页面就很多了,现在明确的辨别一下。

单独的Hadoop集群

9870:hdfs的页面端口 ,通讯端口9820

8088:resourceManager服务,可以看到所有正在运行的,或者运行过的任务,当你重启yarn的时候,其中所有的记录就会消失。

19888:JobHistoryServer服务,里面存放着所有过去运行过的mapreduce任务,是历史日志。重启里面的记录也不会消失

yarn中是没有单独的4040页面的,将该页面嵌入到8088内部了。

其中可以在8088页面通过点击不同的按钮进入到程序运行的详情页(类似4040),和19888页面。

单独的spark(standalone模式)

4040:当单个job任务执行时,可以进行该页面进行查看job任务的执行情况,该任务执行完成,其页面就不能进入了。

8080:master服务,可以说是类似8088,可以看到所有正在运行的,或者运行过的任务,当你重启matser时,其中的记录就会消失。

18080:HistoryServer服务,spark的历史日志服务,由于存放所有运行过的spark任务的信息

其中可以在8080页面通过点击不同的按钮进入到程序运行的详情页4040,和19888页面。

spark-yarn模式(spark+yarn)

        此时启动的进程为hdfs,yarn,JobHistoryServer,HistoryServer服务

其中端口号有9870(hdfs),8088(yarn),19888(mapreduce),18080(spark)

        当运行map任务或者spark任务,都会在8088页面中产生数据,此时8088页面可以看到mapreduce任务,也可以看到spark任务,两种任务是共存的。当任务运行时,可以通过相应的按钮进入运行任务的详情页面。其中mapreduce 进入的是yarn,而spark进入的就是类似standalone中的4040页面了。

        而对于历史日志,从8088页面种点击history会根据任务类型的不同进入不同的历史日志页面,其中mapreduce完成后的日志会进入19888页面,而spark完成后的详情会进入18080页面。

        也就是说,此时通过8088将任务运行和历史日志的所有页面汇总在了一起,可以通过8088进入不同类型进程的详情页面,或者历史日志页面。

http://www.lryc.cn/news/480804.html

相关文章:

  • PDS的主要部件
  • (十三)JavaWeb后端开发——MySQL2
  • MFC图形函数学习06——画椭圆弧线函数
  • 缓存、注解、分页
  • 【数据结构与算法】第9课—数据结构之二叉树(链式结构)
  • 【CSS】居中样式
  • Vite环境下uniapp Vue 3项目添加和使用环境变量的完整指南
  • mysql-springboot netty-flink-kafka-spark(paimon)-minio
  • 讨论一个mysql事务问题
  • pytest插件精选:提升测试效率与质量
  • HTB:Sightless[WriteUP]
  • 国产化浪潮下,高科技企业如何选择合适的国产ftp软件方案?
  • 自注意力机制
  • 抽象工厂模式详解
  • 【Linux】软硬链接和动静态库
  • HarmonyOS入门 : 获取网络数据,并渲染到界面上
  • 【贪心】【哈希】个人练习-Leetcode-1296. Divide Array in Sets of K Consecutive Numbers
  • 【数据库实验一】数据库及数据库中表的建立实验
  • Web服务nginx基本实验
  • Ubuntu实现双击图标运行自己的应用软件
  • js id字符串转数组
  • 《手写Spring渐进式源码实践》实践笔记(第十八章 JDBC功能整合)
  • 边缘计算在智能交通系统中的应用
  • HTML5+css3(浮动,浮动的相关属性,float,解决浮动的塌陷问题,clear,overflow,给父亲盒子加高度,伪元素)
  • 【C++ 滑动窗口】2134. 最少交换次数来组合所有的 1 II
  • 使用 PyTorch 实现并测试 AlexNet 模型,并使用 TensorRT 进行推理加速
  • Python 数据可视化详解教程
  • springboot集成opencv开源计算机视觉库
  • CCF ChinaOSC |「开源科学计算与系统建模openSCS专题分论坛」11月9日与您相约深圳
  • 2024年11月8日上海帆软用户大会