当前位置: 首页 > news >正文

Hive sql执行文件合并配置参数

HIVE自动合并输出的小文件的主要优化手段为:HIVE将会启动一个独立的map-reduce任务进行输出文件的merge。
set hive.merge.mapfiles = true:
在只有map的作业结束时合并小文件,
set hive.merge.mapredfiles = true:
在Map-Reduce的任务结束时合并小文件,默认为False;
set hive.merge.size.per.task = 256000000;
合并后每个文件的大小,默认256M
set hive.merge.smallfiles.avgsize=16000000;
当输出文件的平均大小小于16M时合并。
set hive.merge.orcfile.stripe.level=false;
当设置为true,orc文件进行stripe Level级别的合并,当设置为false,orc文件进行文件级别的合并。

http://www.lryc.cn/news/517488.html

相关文章:

  • 鸿蒙 ArkUI实现地图找房效果
  • 一套极简易的直流无刷电机(Deng FOC)开发套件介绍
  • Inception模型详解及代码分析
  • Springboot AOP 每个接口运行前 修改入参
  • 课题推荐——基于GPS的无人机自主着陆系统设计
  • 【深度学习】在深度学习训练过程中,数据量太少会导致模型过拟合还是欠拟合?
  • js迭代器模式
  • 测试开发基础知识2
  • PromQL基础使用和案例解析
  • 使用Python实现基于机器学习的垃圾邮件过滤
  • MySql根据经纬度查询距离
  • Aviatrix Controller 未授权命令注入漏洞复现(CVE-2024-50603)
  • 数据结构与算法之二叉树: LeetCode 109. 有序链表转换二叉搜索树 (Ts版)
  • Android NDK开发入门2之适应idm环境
  • 如何隐藏 Nginx 版本号 并自定义服务器信息,提升安全性
  • 鸿蒙的APP真机调试以及发布
  • 图像处理|膨胀操作
  • 攻防世界 ics-07
  • C# 之某度协议登录,JS逆向,手机号绑定,获取CK
  • js适配器模式
  • 小徐影城管理系统(源码+数据库+文档)
  • Linux第101步_了解LCD屏驱动“panel-simple.c”
  • 【实用技能】如何使用 .NET C# 中的 Azure Key Vault 中的 PFX 证书对 PDF 文档进行签名
  • 前端基础函数算法整理应用(sort+reduce+date+双重for循环)
  • 鸿蒙MPChart图表自定义(六)在图表中绘制游标
  • poi-tl+kkviewfile实现生成pdf业务报告
  • 【Uniapp-Vue3】scroll-view可滚动视图区域组件
  • asp.net core webapi中的数据注解与数据验证
  • PixPin—— 高效截图工具的下载与使用攻略
  • Go语言的 的多态性(Polymorphism)基础知识