当前位置: 首页 > news >正文

Linux下 自定义多线程并发快速压缩解压缩脚本

文章目录

  • 自定义多线程压缩解压缩脚本
  • 使用


  • Linux下 自定义多线程并发快速压缩解压缩脚本

Linux下常用的tar工具无法支持并行 压缩和解压,对于大量小文件的解压缩,可借助pigz工具实现多线程并行工作,实现更为高效的压缩和解压缩。


自定义多线程压缩解压缩脚本

首先安装 pigz创建脚本 mypigz

#! /bin/bash
name=$1
dir=$2function pin_thread2core() 
{ps -efT | grep pigz | grep -v "grep"pid=$(ps -efT | grep pigz | grep -v "grep" | awk '{print $3}')echo $pidcoreid=2for val in $piddoecho "taskset -cp $coreid $val"taskset -cp $coreid $val((coreid++))done
}cmdline=`cat  /proc/cmdline`
coremask=${cmdline#*isolated_cores=}
echo coremask: $coremaskif [ "$coremask"x = x ]; thenecho "Invalid coremask"coremask=1-10
fiif [ $# -ge 2 ];then#压缩echo "start compress"time taskset -c $coremask tar cf - $dir | taskset -c $coremask pigz -6 -p 10 -k > $name.tar.gz &pin_thread2core
else#解压echo "start decompress: $name"time pigz -p 10 -d $name & pin_thread2core  tarname=$(basename $name .gz) waittime taskset -c $coremask tar xf  $tarname
fiwait

使用

#压缩
./mypigz 文件名 目录
#解压
./mypigz 压缩包名

The End.


http://www.lryc.cn/news/265421.html

相关文章:

  • ubuntu20.04下安装pcl_ubuntu安装pcl
  • 阿里云常用配置:日志采集、OSS、RAM 权限策略
  • 回顾丨2023 SpeechHome 第三届语音技术研讨会
  • 【flink】状态清理策略(TTL)
  • 4. 行为模式 - 中介者模式
  • 2015年第四届数学建模国际赛小美赛A题飞机上的细长座椅解题全过程文档及程序
  • 机器学习笔记(二)使用paddlepaddle,再探波士顿房价预测
  • 【Linux】权限篇(二)
  • reduce累加器的应用
  • 助力硬件测试工程师之EMC项目测试。
  • Github 2023-12-23 开源项目日报 Top10
  • Quartz.net 正则表达式触发器
  • 【已解决】修改了网站的class样式name值,会影响SEO,搜索引擎抓取网站及排名吗?
  • 微信小程序开发系列-02注册小程序
  • 安装 PyCharm 2021.1 保姆级教程
  • 浏览器 cookie 的原理(详)
  • StringBuilder和StringBuffer区别是什么?
  • 【数据分析】数据指标的分类及应用场景
  • 首涂第二十八套_新版海螺M3多功能苹果CMSv10自适应全屏高端模板
  • MatGPT - 访问 OpenAI™ ChatGPT API 的 MATLAB® 应用程序
  • Tomcat转SpringBoot、tomcat升级到springboot、springmvc改造springboot
  • 浅述无人机技术在地质灾害应急救援场景中的应用
  • js-cookie的使用以及存储token安全的注意要点
  • Android 网络状态判断
  • 管理类联考——数学——真题篇——按知识分类——代数——数列
  • .net core webapi 自定义异常过滤器
  • SuperMap iServer发布的ArcGIS REST 地图服务如何通过ArcGIS API加载
  • python调用GPT API
  • ModuleNotFoundError: No module named ‘tensorflow‘
  • 智能优化算法应用:基于鹰栖息算法3D无线传感器网络(WSN)覆盖优化 - 附代码