讲师中心 微信公众号
AI工具推荐 视频效率加速

Nginx 日志怎么结合 JSON 格式输出方便大数据平台采集

星敏姑娘_8951

星敏姑娘_8951

发布时间:2026-09-06 12:07:36

|

746人浏览过

|

来源于php中文网

原创

Nginx 1.11.8+ 支持 escape=json 的 log_format,可直接输出标准 JSON 日志,需在 http 块定义格式、server 中用 access_log 启用,字段引号规范、数值不加引号、时间用 $time_iso8601,路径须绝对且有写权限,采集端需按 JSON Lines 解析。

nginx 日志怎么结合 json 格式输出方便大数据平台采集

让 Nginx 日志直接输出标准 JSON 格式,是对接大数据平台(如 ELK、Loki、ClickHouse)最高效的方式——省去 Logstash 的 grok 解析开销,字段天然可索引、可聚合。

在 http 块中定义 escape=json 的 log_format

这是最关键的一步。Nginx 1.11.8+ 支持 escape=json 参数,自动转义双引号、换行符、控制字符,避免 JSON 结构损坏:

  • 所有字符串字段(如 "$remote_addr"、"$http_user_agent")必须用双引号包裹
  • 数值字段(如 $status、$request_time、$body_bytes_sent)不加引号,确保 Elasticsearch 或 ClickHouse 自动识别为数字类型
  • 时间统一用 $time_iso8601,方便日志系统解析为 @timestamp
  • 字段名建议加前缀(如 http_user_agent 而非 user_agent),避免与目标平台内置字段冲突

启用并绑定到具体 server 或 location

仅定义格式不会生效,必须在作用域中显式调用 access_log:

  • 写法必须是 access_log /path/to/access.json json_format_name;,缺格式名会回退到默认 combined
  • 路径需为绝对路径,且 Nginx 进程有写权限(如 /var/log/nginx/access.json)
  • 若使用多个虚拟主机,确保 log_format 在 http 块顶层唯一定义,不要在各 server 中重复声明

适配不同采集端的注意事项

JSON 日志输出后,采集工具配置要匹配“每行一个 JSON 对象”(JSON Lines)格式:

  • Filebeat:启用 json.enabled: true + json.keys_under_root: true,并设 json.add_error_key: true 便于排查解析失败
  • Logstash:用 json 过滤器即可,无需 grok;推荐加 remove_field => ["message"] 避免冗余字段
  • Loki:配合 Promtail 的 docker 或 file 类型 input,启用 json 解析器,自动提取标签

验证与排错要点

配置完成后,务必验证输出是否真正合法:

  • 重启 Nginx,发一次请求(如 curl -I localhost)
  • 用 tail -1 /var/log/nginx/access.json | jq . 检查是否单行、无报错
  • 常见错误:字段漏引号、数值加了引号、escape=json 拼错、Nginx 版本低于 1.11.8
  • 高危字段(如 $http_user_agent)若仍担心风险,可用 map 预清洗非法字符,再引用清洗后变量

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
大数据分析工具有哪四个
大数据分析工具有哪四个

大数据分析的四个工具分别是rapidminer、Hpcc、Hadoop和Pentaho bi。大数据分析用于从各种来源生成的原始数据中提取有价值的数据。这些数据帮助我们获得有意义的见解、隐藏的模式、未知的相关性、市场趋势等等,具体取决于行业。大数据分析的主要动机是提供有价值的见解,以便为未来做出更好的决策。php中文网为大家带来了大数据分析的相关教程、以及相关文章等内容,供大家免费下载使用。

5016

2023.06.21

Java 大数据处理基础(Hadoop 方向)
Java 大数据处理基础(Hadoop 方向)

本专题聚焦 Java 在大数据离线处理场景中的核心应用,系统讲解 Hadoop 生态的基本原理、HDFS 文件系统操作、MapReduce 编程模型、作业优化策略以及常见数据处理流程。通过实际示例(如日志分析、批处理任务),帮助学习者掌握使用 Java 构建高效大数据处理程序的完整方法。

1249

2025.12.08

大数据专业学习教程
大数据专业学习教程

本专题整合了大数据专业学习相关教程,阅读专题下面的文章了解更多详细内容。

243

2026.01.05

python处理大数据合集
python处理大数据合集

本专题整合了python处理大数据相关教程,阅读专题下面的文章了解更多详细内容。

466

2026.01.05

nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

403

2023.07.27

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3507

2023.08.04

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

6225

2023.08.04

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

561

2024.02.23

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

0

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

nginx手册
nginx手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn