讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux如何查找重复的文件

冬敏小哥_6120

冬敏小哥_6120

发布时间:2026-09-12 07:16:36

|

228人浏览过

|

来源于php中文网

原创

必须比内容哈希,优先用jdupes或fdupes;若不可装,则find+md5sum需加-print0、! -size 0、路径过滤和2>/dev/null容错,否则结果不可信。

linux如何查找重复的文件

直接看结论:别用文件名或大小判断重复,必须比内容哈希;有现成工具就别手写脚本,优先装 fdupes 或 jdupes;若不能装包,find + md5sum 链式命令必须加过滤和容错,否则结果不可信。

为什么不能只靠 find -name 或 ls -laS

文件名相同 ≠ 内容相同(比如 report_v2_final.pdf 和 report_v2_final.pdf 可能是不同版本);文件大小相同更不可靠——大量小文本、空配置、日志碎片常撞大小但内容迥异。真实重复必须基于内容一致性,而哈希(如 MD5、SHA256)是 Linux 下最轻量且足够可靠的代理指标。

fdupes 和 jdupes 怎么选、怎么用

jdupes 是 fdupes 的现代替代品,多线程、内存友好、默认跳过空文件,且支持交互式删除。两者语法几乎一致:

  • fdupes -r /home/user/Documents:递归扫描,按组列出所有重复文件
  • jdupes -r -T /home/user/Pictures:启用多线程(-T),速度明显快于 fdupes
  • jdupes -r -d /data:交互式删除——每组只保留第一个,其余提示确认(慎用!)
  • 如果只想要重复组的路径列表(供后续处理),加 -f: jdupes -r -f /tmp

注意:fdupes 在某些老发行版中默认不跳过空文件,可能把一堆 d41d8cd98f00b204e9800998ecf8427e 当作“重复”,而 jdupes 默认忽略空文件,更省心。

linux-sysadmin
linux-sysadmin

Linux系统管理专家,覆盖12大模块:用户权限、SSH、存储、网络、systemd、防火墙、日志监控、备份恢复、TLS证书、Ansible、容器、IaC。提供配置、验证、加固、监控、备份、自动化、故障排查、回滚闭环。关键词:useradd、sudo、sshd_config、chmod、SEL...

下载

不用额外工具时,find | xargs | md5sum 的安全写法

手写命令极易出错,常见失败点:路径含空格崩掉、遇到 /dev/zero 报错中断、空文件污染结果、权限不足静默丢文件。正确组合必须包含:

  • 用 -print0 和 -0 处理特殊字符:find /path -type f -print0
  • 跳过空文件:! -size 0
  • 排除危险路径:-not -path "/proc/*" -not -path "/sys/*" -not -path "/dev/*"
  • 错误重定向:2>/dev/null 防止 md5sum: Permission denied 中断管道
  • 最终命令:find /path -type f ! -size 0 -not -path "/proc/*" -not -path "/sys/*" -not -path "/dev/*" -print0 | xargs -0 md5sum 2>/dev/null | sort | awk '{if ($1 == prev) {print prev_file; print $0} else {prev = $1; prev_file = $0}}'

这个命令输出的是「成对重复」的原始行(含哈希+路径),不是单列哈希值,可直接用于人工核验或进一步 cut -d' ' -f3- 提取路径。

哪些情况会误判?你得手动干预

哈希碰撞在现实中几乎不会发生,但以下场景会导致“假重复”或“漏重复”,必须人工介入:

  • 硬链接:多个路径指向同一 inode,md5sum 结果必然相同,但它们是同一个文件,不是“重复”——用 find -type f -links +1 单独查
  • 符号链接:默认被 find -type f 过滤掉,若想包含,需加 -xtype f,但要小心循环引用
  • 稀疏文件或设备文件:即使加了路径过滤,某些 FUSE 挂载点仍可能返回异常内容,建议先 file -i 抽样检查
  • 二进制文件带时间戳/随机 salt:如某些打包工具生成的 ZIP、JAR,内容微变则哈希全变,此时哈希法失效,得用 cmp 或专用工具(如 rdfind -makehardlinks 的深度比对)

真正麻烦的从来不是“找不出重复”,而是“找出来后不敢删”——哈希只能告诉你“内容一致”,不能告诉你“这个副本是否承载了业务语义”。备份目录里的 config.bak 和线上 /etc/config 哈希相同,删哪个?得看上下文。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

3690

2023.06.21

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

3193

2023.06.29

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2273

2023.06.30

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

5430

2023.07.05

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

5102

2023.07.06

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3033

2023.07.20

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

2545

2023.07.20

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

2759

2023.07.25

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

120

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
如何安装 Composer
如何安装 Composer

共1课时 | 184人学习

Git版本控制工具
Git版本控制工具

共8课时 | 1.8万人学习

Redis基础课程
Redis基础课程

共6课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn