讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux 开发:如何用 sed / awk 做文本处理 (日志 / 配置)

千辰大大_4547

千辰大大_4547

发布时间:2025-11-18 21:39:05

|

374人浏览过

|

来源于php中文网

原创

sed和awk是Linux日志与配置处理的核心工具:sed用于文本替换、删除等行操作,如修改配置项或清理注释;awk擅长字段化分析,可提取IP、统计状态码、汇总请求;二者结合可实现清洗后分析,如sed过滤调试日志后由awk统计错误类型,配合正则与分隔符支持,能高效完成自动化文本处理任务。

linux 开发:如何用 sed / awk 做文本处理 (日志 / 配置)

在 Linux 开发中,处理日志和配置文件是日常任务。sed 和 awk 是两个强大的文本处理工具,适合自动化、高效地完成提取、替换、过滤等操作。下面介绍它们在实际场景中的用法。

sed:流编辑器,擅长文本替换与行操作

sed 以行为单位处理文本,常用于修改、删除、插入内容,特别适合批量处理配置文件或清洗日志。

常见用途:

  • 替换字符串(如修改配置项)
  • 删除注释行或空行
  • 提取特定行

示例:

CSV数据分析器
CSV数据分析器

用简单命令分析CSV文件,获取统计、筛选行、检测异常、分组聚合,零外部依赖。

下载
# 将配置文件中的 port=8080 替换为 port=9000

sed -i 's/port=8080/port=9000/' config.conf

# 删除所有以 # 开头的注释行和空行

sed -i '/^#/d;/^$/d' app.log

# 显示包含 ERROR 的行,并打印前后各 2 行

sed -n '/ERROR/-2,+2p' system.log

awk:数据提取与结构化分析利器

awk 按字段解析文本,适合从日志中提取关键信息,比如时间、IP、状态码等。它把每行看作一组字段,默认以空白分隔。

常用场景:

  • 统计访问量、错误次数
  • 格式化输出日志摘要
  • 条件过滤并计算

示例:

# 提取 Nginx 日志中的 IP 地址(第一列)

awk '{print $1}' access.log

# 统计 HTTP 状态码 404 出现次数

awk '$9 == 404 {count++} END {print count+0}' access.log

# 找出请求超过 1 秒的行(假设第 10 字段是响应时间)

awk '$10 > 1 {print $1, $7, $10}' access.log

# 按用户 IP 汇总请求数

awk '{ip[$1]++} END {for (i in ip) print i, ip[i]}' access.log

组合使用:sed 预处理 + awk 分析

真实场景中,可以先用 sed 清理数据,再交给 awk 处理。

# 去掉日志中的调试信息,然后统计错误类型

sed '/DEBUG/d' app.log | awk '/ERROR/ {err[$NF]++} END {for(e in err) print e, err[e]}'

# 提取 Apache 日志中特定日期的访问,并按 URL 排序计数

sed -n '/10\/May\/2024/p' access.log | awk '{url[$7]++} END {for(u in url) print url[u], u}' | sort -nr

小技巧与注意事项

  • sed 使用 -i 修改文件前建议先测试,可加 .bak 备份:sed -i.bak 's/old/new/' file
  • awk 支持自定义分隔符,如 CSV 文件可用 -F','
  • 正则表达式在两者中都支持,但语法略有不同,注意转义
  • 对于复杂逻辑,优先考虑脚本化(写成 shell 脚本),提高可维护性

基本上就这些。掌握 sed 和 awk 的基本模式后,处理日志和配置会变得非常高效。不复杂但容易忽略的是多练习实际例子,熟悉字段结构和匹配逻辑。

热门AI工具

更多
蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

383

2023.07.27

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3047

2023.08.04

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

5565

2023.08.04

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

541

2024.02.23

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1456

2024.07.09

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

3898

2024.08.07

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

122

2026.01.13

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

417

2026.01.13

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

60

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习

阶跃Al官方手册
阶跃Al官方手册

共0课时 | 0人学习

讯飞星火多模态对话指南
讯飞星火多模态对话指南

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn