讲师中心 微信公众号
AI工具推荐 视频效率加速

tar中怎么通过多线程插件配合tar提升数G巨型目录的打包速度

落芳姑娘_6447

落芳姑娘_6447

发布时间:2026-08-19 12:39:46

|

1055人浏览过

|

来源于php中文网

原创

关键在于用pigz替代gzip实现多核压缩:tar --use-compress-program="pigz -p $(nproc)" -cf archive.tar.gz /path/to/dir,可提速4–7倍且保持.gz兼容性。

tar中怎么通过多线程插件配合tar提升数g巨型目录的打包速度

用 tar 打包数 GB 甚至 TB 级别的巨型目录时,瓶颈不在磁盘 IO(尤其用 NVMe SSD),而在于压缩环节的单线程限制。tar 本身只负责打包(单线程),真正拖慢速度的是默认调用的 gzip —— 它只能用 1 个 CPU 核心。要提速,关键不是换 tar,而是让压缩阶段并行化。最成熟、兼容性最好、开箱即用的方案是 pigz。


✅ 用 pigz 替代 gzip 实现多核压缩

pigz 是 gzip 的并行实现,能自动利用全部或指定数量的 CPU 核心,输出标准 .gz 格式文件,和 gzip 完全兼容,无需修改解压流程。

基本命令(推荐写法)

tar --use-compress-program="pigz -p $(nproc)" -cf archive.tar.gz /path/to/dir
  • --use-compress-program:让 tar 把压缩任务交给外部程序执行
  • pigz -p N:-p 指定线程数,$(nproc) 自动取系统逻辑核心总数(如 16 核就用 16 线程)
  • -cf:打包不压缩(-c)+ 指定输出文件(-f),压缩由 pigz 完成

✅ 实测效果:4 核机器压缩 2GB 目录从 3 分钟降至 50 秒内;32 核服务器对 50GB 日志目录,压缩时间可缩短 4–7 倍。


⚙️ 进阶调优:更稳、更快、更可控

控制线程数与 CPU 绑定(避免干扰关键服务)

# 限定使用 8 个核心(编号 0–7),避免抢占其他业务资源
taskset -c 0-7 tar --use-compress-program="pigz -p 8" -cf backup.tar.gz /data/
  • taskset -c 可绑定进程到特定 CPU 核心,减少上下文切换和缓存抖动
  • 生产环境建议预留 2–4 核给系统和其他服务,不要无脑用满 nproc

处理海量小文件(防参数超长 + 提速)

find /data -type f -print0 | tar --null -cf - | pigz -p 12 > backup.tar.gz
  • find ... -print0 | tar --null 避免 Argument list too long 错误(尤其百万级小文件)
  • tar -cf - 输出到 stdout,直接管道给 pigz,全程内存流式处理,不生成中间 .tar 文件

压缩级别权衡(速度 vs 体积)

  • 默认 -p 已启用 pigz 最优策略,通常无需改级别
  • 若需进一步提速(牺牲少量压缩率):加 -1(最快)
  • 若磁盘紧张且 CPU 富余:可用 -6(平衡)或 -9(高压缩,但速度下降明显,一般不推荐)

? 注意事项:哪些“加速法”其实无效或危险

  • tar -z 本身无法多线程 —— 它只是调用单线程 gzip,换再多核也白搭
  • 不要用 split 切割 .tar.gz 文件:gzip 流不支持随机分片,解压必报 invalid compressed data
  • xz 或 bzip2 虽然也有并行版(pxz、pbzip2),但兼容性差、解压端不一定装了,pigz 是最稳妥的替代
  • 不要手动 tar cf - ... | gzip —— 这仍是单线程;必须换成 pigz 才生效

▶️ 解压也一样快:用 pigz 加速解压

tar --use-compress-program="pigz -p 8" -xf backup.tar.gz

或旧版 tar(不支持 --use-compress-program):

pigz -p 8 -d backup.tar.gz | tar -xf -

解压速度提升同样显著,尤其对大文件(如单个 20GB 的 .tar.gz),CPU 利用率可拉满,不再卡在单核瓶颈上。

不复杂但容易忽略——关键是把 gzip 换成 pigz,一行命令就能释放多核潜力。

热门AI工具

更多
SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

4130

2023.06.21

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

3493

2023.06.29

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2713

2023.06.30

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

6610

2023.07.05

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

6262

2023.07.06

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3633

2023.07.20

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

3105

2023.07.20

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

3339

2023.07.25

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

100

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Linux开发篇视频教程
Linux开发篇视频教程

共18课时 | 4.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn