讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux 服务器部署 Logstash 实现日志清洗与索引转换

风枫姑娘_2441

风枫姑娘_2441

发布时间:2026-07-18 10:33:19

|

203人浏览过

|

来源于php中文网

原创

Linux部署Logstash实现日志清洗与索引转换,关键在于构建输入采集→过滤清洗→输出索引三段式管道:先确保OpenJDK 11/17环境就绪,再分写01-input.conf、02-filter.conf、03-output.conf配置文件,最后通过语法校验、热重载及样例日志测试验证字段生成与索引映射正确性。

linux 服务器部署 logstash 实现日志清洗与索引转换

Linux 服务器上部署 Logstash 实现日志清洗与索引转换,关键在于构建一个可落地的三段式管道:输入采集 → 过滤清洗 → 输出索引。整个过程不依赖复杂组件,但需注意 Java 环境、配置分层和字段语义一致性。

确保 Java 运行环境就绪

Logstash 是 JVM 应用,必须先确认 Java 版本兼容(推荐 OpenJDK 11 或 17):

  • 运行 java -version,输出应含 11.0.x 或 17.0.x
  • 若未安装,Ubuntu 可执行 sudo apt install openjdk-17-jre;CentOS 使用 yum install java-17-openjdk
  • 避免使用 JDK 8 或 JDK 21,前者已不被新版 Logstash 支持,后者可能存在插件兼容问题

编写结构化配置文件(按职责拆分)

建议将配置拆为三个独立文件,放在 /etc/logstash/conf.d/ 下,便于维护和热重载:

Linux Distros
Linux Distros

Linux发行版游乐场,适用于需要临时Linux沙箱、基于浏览器的Linux虚拟机、一次性终端环境、桌面Linux会话等场景

下载
  • 01-input.conf:专注来源接入。例如监听 TCP Syslog:
    input { tcp { port => 5140 codec => "json" tags => ["syslog"] } }
  • 02-filter.conf:承担清洗核心。先用 dissect 或 grok 提取字段,再用 date 标准化时间,最后用 mutate 重命名或删冗余字段:
    filter { dissect { mapping => { "message" => "%{timestamp} %{level} %{service} %{msg}" } } date { match => ["timestamp", "ISO8601"] target => "@timestamp" } mutate { rename => { "service" => "app_name" } remove_field => ["message", "timestamp"] } }
  • 03-output.conf:控制索引行为。Elasticsearch 输出支持动态索引名,例如按天分片:
    output { elasticsearch { hosts => ["http://localhost:9200"] index => "logs-%{+YYYY.MM.dd}" } }

验证清洗逻辑与索引映射

配置完成后,不能只看服务是否启动,更要验证字段是否按预期生成:

  • 用 sudo systemctl start logstash 启动,并检查状态:sudo systemctl is-active logstash 应返回 active
  • 临时测试可用命令行调试模式:bin/logstash -f /etc/logstash/conf.d/01-input.conf --config.test_and_exit 检查语法
  • 向 Logstash 发送一条样例日志(如 echo '{"timestamp":"2026-06-12T10:20:30Z","level":"INFO","service":"auth","msg":"login success"}' | nc 127.0.0.1 5140),然后在 Kibana 的 Dev Tools 中执行:
    GET logs-2026.06.12/_search?size=1,确认返回结果中 app_name、@timestamp 字段存在且值正确

索引转换的实用技巧

“索引转换”不只是改名字,更包括类型适配与生命周期管理:

  • 若原始日志中 response_time 是字符串,但需数值聚合,在 filter 中加:convert => { "response_time" => "integer" }
  • Elasticsearch 7+ 默认禁用 type,Logstash 配置中无需指定 document_type,否则会报错
  • 长期运行建议配合 ILM(Index Lifecycle Management),在 output 中启用:ilm_enabled => true,并预设策略控制 rollover 和 delete

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

437

2023.08.15

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

900

2023.09.08

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2792

2023.09.19

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

936

2023.10.09

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

829

2023.10.17

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

434

2023.10.17

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2536

2023.10.18

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

4692

2023.10.20

Kratos框架HTTP与gRPC服务开发教程
Kratos框架HTTP与gRPC服务开发教程

本专题围绕Kratos框架双协议服务开发,涵盖HTTP路由与处理器编写、参数获取、gRPC服务实现与客户端调用、metadata上下文传递、encoding编解码注册、统一响应封装、超时控制与流式响应实现方法。

0

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn