必须比内容哈希,优先用jdupes或fdupes;若不可装,则find+md5sum需加-print0、! -size 0、路径过滤和2>/dev/null容错,否则结果不可信。

直接看结论:别用文件名或大小判断重复,必须比内容哈希;有现成工具就别手写脚本,优先装 fdupes 或 jdupes;若不能装包,find + md5sum 链式命令必须加过滤和容错,否则结果不可信。
为什么不能只靠 find -name 或 ls -laS
文件名相同 ≠ 内容相同(比如 report_v2_final.pdf 和 report_v2_final.pdf 可能是不同版本);文件大小相同更不可靠——大量小文本、空配置、日志碎片常撞大小但内容迥异。真实重复必须基于内容一致性,而哈希(如 MD5、SHA256)是 Linux 下最轻量且足够可靠的代理指标。
fdupes 和 jdupes 怎么选、怎么用
jdupes 是 fdupes 的现代替代品,多线程、内存友好、默认跳过空文件,且支持交互式删除。两者语法几乎一致:
-
fdupes -r /home/user/Documents:递归扫描,按组列出所有重复文件 -
jdupes -r -T /home/user/Pictures:启用多线程(-T),速度明显快于fdupes -
jdupes -r -d /data:交互式删除——每组只保留第一个,其余提示确认(慎用!) - 如果只想要重复组的路径列表(供后续处理),加
-f:jdupes -r -f /tmp
注意:fdupes 在某些老发行版中默认不跳过空文件,可能把一堆 d41d8cd98f00b204e9800998ecf8427e 当作“重复”,而 jdupes 默认忽略空文件,更省心。
Linux系统管理专家,覆盖12大模块:用户权限、SSH、存储、网络、systemd、防火墙、日志监控、备份恢复、TLS证书、Ansible、容器、IaC。提供配置、验证、加固、监控、备份、自动化、故障排查、回滚闭环。关键词:useradd、sudo、sshd_config、chmod、SEL...
不用额外工具时,find | xargs | md5sum 的安全写法
手写命令极易出错,常见失败点:路径含空格崩掉、遇到 /dev/zero 报错中断、空文件污染结果、权限不足静默丢文件。正确组合必须包含:
- 用
-print0和-0处理特殊字符:find /path -type f -print0 - 跳过空文件:
! -size 0 - 排除危险路径:
-not -path "/proc/*" -not -path "/sys/*" -not -path "/dev/*" - 错误重定向:
2>/dev/null防止md5sum: Permission denied中断管道 - 最终命令:
find /path -type f ! -size 0 -not -path "/proc/*" -not -path "/sys/*" -not -path "/dev/*" -print0 | xargs -0 md5sum 2>/dev/null | sort | awk '{if ($1 == prev) {print prev_file; print $0} else {prev = $1; prev_file = $0}}'
这个命令输出的是「成对重复」的原始行(含哈希+路径),不是单列哈希值,可直接用于人工核验或进一步 cut -d' ' -f3- 提取路径。
哪些情况会误判?你得手动干预
哈希碰撞在现实中几乎不会发生,但以下场景会导致“假重复”或“漏重复”,必须人工介入:
- 硬链接:多个路径指向同一 inode,
md5sum结果必然相同,但它们是同一个文件,不是“重复”——用find -type f -links +1单独查 - 符号链接:默认被
find -type f过滤掉,若想包含,需加-xtype f,但要小心循环引用 - 稀疏文件或设备文件:即使加了路径过滤,某些 FUSE 挂载点仍可能返回异常内容,建议先
file -i抽样检查 - 二进制文件带时间戳/随机 salt:如某些打包工具生成的 ZIP、JAR,内容微变则哈希全变,此时哈希法失效,得用
cmp或专用工具(如rdfind -makehardlinks的深度比对)
真正麻烦的从来不是“找不出重复”,而是“找出来后不敢删”——哈希只能告诉你“内容一致”,不能告诉你“这个副本是否承载了业务语义”。备份目录里的 config.bak 和线上 /etc/config 哈希相同,删哪个?得看上下文。

















