讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux怎么对文本文件内容进行去重排序

星芳吖_1096

星芳吖_1096

发布时间:2026-10-31 08:53:30

|

955人浏览过

|

来源于php中文网

原创

推荐sort -u而非sort | uniq,因其为原生命令、更省资源、容错性更强;支持-n(数值)、-f(忽略大小写)、-t(指定分隔符)等选项灵活去重。

linux怎么对文本文件内容进行去重排序

直接用 sort -u 就行,不用再管 uniq。这是最简、最稳、最符合直觉的做法,99% 的去重排序需求一步到位。

为什么推荐 sort -u 而不是 sort | uniq

sort -u 和 sort file | uniq 表面效果一致,但底层逻辑和容错性不同:

  • sort -u 是 sort 原生支持的去重模式,排序完成后直接丢弃重复项,不额外启动进程,更省资源
  • sort file | uniq 多了一次管道和进程调度,对超大文件可能增加 I/O 和上下文切换开销
  • 当输入含非法字节(如截断的 UTF-8)时,uniq 可能提前退出或报错,而 sort -u 更健壮(尤其加 LC_ALL=C 后)
  • 两者在默认 locale 下行为完全一致;但若需忽略大小写等,sort -uf 比 sort -f | uniq -i 更可靠——因为 uniq -i 仅影响比较,不保证排序阶段已归一化

sort -u 的常见变体与适用场景

去重只是基础,实际中常要配合排序逻辑调整:

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载
  • 纯文本去重(默认字典序):sort -u data.txt
  • 按数字大小去重(防 "10" 排在 "2" 前):sort -nu numbers.txt
  • 按第 2 列去重(如 CSV 中忽略 ID 列):sort -t',' -k2,2 -u data.csv
  • 忽略大小写去重:LC_ALL=C sort -uf data.txt(注意:必须加 LC_ALL=C,否则 -f 在某些 locale 下会出错)
  • 逆序去重(最大值优先):sort -ur data.txt

容易踩的坑:空格、制表符、不可见字符

看似相同的两行,sort -u 却没去重?大概率是隐形字符作祟:

  • 行尾有空格或 \r(Windows 换行):先用 sed 's/[[:space:]]*$//' file | sort -u
  • 字段间混用空格和制表符:用 -t $'\t' 显式指定分隔符,或先统一替换 tr '\t' ' '
  • 编码不一致(如 UTF-8 vs GBK):强制用 LC_ALL=C sort -u 避免 locale 解析歧义
  • 想按“语义相同”去重(如 "apple " 和 "apple"),sort -u 不会自动 trim,必须预处理

真正麻烦的从来不是命令本身,而是数据里那些看不见的空格、换行、编码和 locale 设置。跑通 sort -u 很容易,让它在各种脏数据下稳定产出预期结果,才需要多看一眼输入。

热门AI工具

更多
超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

4310

2023.06.21

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

3633

2023.06.29

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2893

2023.06.30

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

7090

2023.07.05

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

6742

2023.07.06

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3853

2023.07.20

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

3365

2023.07.20

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

3599

2023.07.25

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
ubuntu官方总文档
ubuntu官方总文档

共0课时 | 0人学习

如何安装 Composer
如何安装 Composer

共1课时 | 218人学习

Git 教程
Git 教程

共21课时 | 8.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn