讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Linux利用Awk统计访问日志中各IP的请求频率

夏雪酱_8559

夏雪酱_8559

发布时间:2026-04-28 17:16:06

|

917人浏览过

|

来源于php中文网

原创

最稳妥的IP提取统计方法是用awk正则匹配IPv4地址:awk 'match($0, /^[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}/) {print substr($0, RSTART, RLENGTH)}' access.log | sort | uniq -c | sort -nr,不依赖字段分割,避免日志格式变动导致错位。

如何在linux利用awk统计访问日志中各ip的请求频率

如何用 awk 提取并统计日志中 IP 出现次数

直接用 awk '{print $1}' access.log | sort | uniq -c | sort -nr 最快,但前提是日志格式为「IP 在每行开头且以空格分隔」(如 Apache 默认 combined 日志)。如果不是,$1 会错——比如 Nginx 的 $remote_addr 可能被引号包裹,或日志含前导时间戳、TLS 信息等。

更稳妥的做法是用正则匹配 IPv4 地址(忽略 IPv6):

awk 'match($0, /^[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}/) {print substr($0, RSTART, RLENGTH)}' access.log | sort | uniq -c | sort -nr
  • match() 返回非零即匹配成功,RSTART/RLENGTH 给出位置和长度
  • 不依赖字段分割,避开因日志格式变动导致的 $1 错位问题
  • 该正则未校验数值范围(如 999.999.999.999),但真实日志中极少出现,权衡可读性与严格性

为什么不用 awk 内置计数而依赖 sort | uniq

awk 完全能自己计数:awk '{ip[$1]++} END{for (i in ip) print ip[i], i}' access.log | sort -nr。但实际中容易踩坑:

  • 当 IP 数量超几万,awk 的关联数组在老版本(如 mawk 1.3.4)可能性能骤降,gawk 稍好但内存占用高
  • for (i in ip) 遍历顺序不确定,必须靠 sort -nr 排序,没省掉管道
  • 如果日志含注释行(如 # 开头)、空行或 header,$1 会是空或乱值,需加过滤:!/^#/ && NF>=1 {ip[$1]++}

处理带引号或混合格式的 Nginx 日志

Nginx 默认日志常把 IP 包在双引号里,例如:"192.168.1.1" - - [..]。此时 是 "192.168.1.1",带引号,后续去重会把 "192.168.1.1" 和 192.168.1.1 当作两个 IP。

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载

安全做法是先去引号再取字段:

awk '{$1 = gensub(/^"(.*)"$/, "\1", 1, $1); print $1}' access.log | sort | uniq -c | sort -nr
  • gensub() 是 gawk 特有函数,mawk 不支持;若环境只有 mawk,改用 sub(/^"/, "", $1); sub(/"$/, "", $1)
  • 不要写成 gsub(/"/, "", $0) —— 全局替换可能误删 URL 或 UA 中的引号
  • 如果日志用 tab 分隔(log_format 显式指定),需加 -F' ' 参数,否则空格分割会崩

统计时漏掉代理 IP 怎么办

真实场景中,X-Forwarded-For 头里的第一个 IP 才是真实客户端,而 $remote_addr 是上一跳代理。若日志已记录该头(如 log_format 含 $http_x_forwarded_for),别只盯着第一列。

假设日志格式为:$remote_addr - $http_x_forwarded_for [$time_local] ...,且 $http_x_forwarded_for 在第 3 字段:

awk '$3 != "-" && $3 != "" {split($3, a, ","); print a[1]} !($3 != "-" && $3 != "") {$1 = gensub(/^"(.*)"$/, "\1", 1, $1); print $1}' access.log | sed 's/^[[:space:]]*//; s/[[:space:]]*$//' | sort | uniq -c | sort -nr
  • 优先取 $3 的第一个 IP(a[1]),但要防空值或 -
  • sed 清理首尾空格,避免 "1.2.3.4 " 和 "1.2.3.4" 被算作不同 IP
  • 这种逻辑已超出单条 awk 表达式舒适区,建议转成小脚本,否则可读性和调试成本陡增

实际跑起来,最易被忽略的是日志轮转和权限:确保 awk 读的是当前活跃日志(不是 access.log.1.gz),且用户有读取权限——尤其是用 sudo journalctl -u nginx 导出的日志,直接管道进 awk 前得确认编码是否为 UTF-8,否则中文 UA 可能触发截断。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

4290

2023.06.21

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

3633

2023.06.29

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2873

2023.06.30

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

7070

2023.07.05

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

6702

2023.07.06

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3853

2023.07.20

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

3345

2023.07.20

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

3579

2023.07.25

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn