当前位置: 首页 > news >正文

spark sql执行引擎原理及配置

如果我们想要给上层开发人员配置好一个统一的sql开发界面,让他们统一通过sql开发即可,可通过spark中的thriftserver服务实现,与hive中的thriftserver类似,配置好该服务后,上层通过db client或者代码中通过jdbc连接即可直接使用sql操作,
在这里插入图片描述
该服务会去请求metastore服务得到元数据后,再将sql语句及元数据给到执行引擎,转换成rdd代码执行。
一个配置案例如下:
1.确保已经配置好了Spark On Hive
2.启动ThriftServerl即可

#直接在root账户下启动即可
$SPARK HOME/sbin/start-thriftserver.sh
–hiveconf hive.server2.thrift.port=10000
–hiveconf hive.server2.thrift.bind.host=nodel
–master local[2]
#master选择local,每一条sql都是local进程执行
#master选择yarn,每一条sql都是在YARN集群中执行

http://www.lryc.cn/news/329913.html

相关文章:

  • 【C语言基础】:自定义类型(二) -->联合和枚举
  • 【授时防火墙】GPS北斗卫星授时信号安全防护装置系统
  • 关于 MySQL 优化(详解)
  • Hive详解(5)
  • 阿里云效codeup如何执行github flow工作流
  • node.js的模块化 与 CommonJS规范
  • RK3588平台开发系列讲解(PWM开发篇)
  • 宝塔面板操作一个服务器域名部署多个网站
  • surfer绘制等值线图
  • 免费开源的 AI 绘图工具 ImgPilot
  • Java系统架构设计:构建稳定高效的软件基石
  • 【IntermLM2】学习笔记
  • 【二叉树】Leetcode 230. 二叉搜索树中第K小的元素【中等】
  • JS中常用的几种事件
  • Android WebView的使用与后退键处理
  • 【备忘录】Docker 2375远程端口安全漏洞解决
  • 343. 整数拆分(力扣LeetCode)
  • Spring面试题系列-3
  • 【比特币】比特币的奥秘、禁令的深层逻辑与风云变幻
  • 【情感分析概述】
  • 【御控物联】JavaScript JSON结构转换(12):对象To数组——键值互换属性重组
  • 5.6 物联网RK3399项目开发实录-Android开发之U-Boot 编译及使用(wulianjishu666)
  • Python版【植物大战僵尸 +源码】
  • 【明道云】如何让用户可以新增但不能修改记录
  • GPT-1原理-Improving Language Understanding by Generative Pre-Training
  • web3.0入门及学习路径
  • MATLAB 自定义中值滤波(54)
  • harmonyOS的客户端存贮
  • 安科瑞智慧安全用电综合解决方案
  • Web 前端性能优化之二:图像优化