讲师中心 微信公众号
AI工具推荐 视频效率加速

利用 Syslog 将日志导入 Elasticsearch 进行全文搜索

老辰君_1627

老辰君_1627

发布时间:2026-07-20 08:00:40

|

334人浏览过

|

来源于php中文网

原创

核心是打通“设备→Syslog服务器→Elasticsearch→Kibana”链路,关键在于每步的数据格式、传输协议和索引映射对齐:发送端结构化JSON日志,中转用Filebeat/Logstash而非rsyslog直连ES,ES中预设mapping确保timestamp为date、关键字段为keyword,并用Index Pattern在Kibana关联语义。

利用 syslog 将日志导入 elasticsearch 进行全文搜索

用 Syslog 把日志送进 Elasticsearch,核心是打通“设备产生日志 → Syslog 服务器收集 → Elasticsearch 存储与索引 → Kibana 查询分析”这条链路。关键不在复杂配置,而在每一步的数据格式、传输协议和索引映射是否对得上。

确保 Syslog 发送方输出结构化字段

原始 Syslog 消息多为纯文本,Elasticsearch 全文搜索效果差,还难做聚合分析。建议在发送端就加入关键字段(如 level、service、host、timestamp),或用 rsyslog 的 template 或 syslog-ng 的 template 功能格式化为 JSON。

  • rsyslog 示例(/etc/rsyslog.d/99-elk.conf):
    template(name="json-template" type="list") {
    property(name="timestamp" dateFormat="rfc3339")
    constant(value=", \"host\":\"") property(name="hostname") constant(value="\"")
    constant(value=", \"level\":\"") property(name="syslogseverity-text") constant(value="\"")
    constant(value=", \"message\":\"") property(name="msg" format="json") constant(value="\"}")
    }
    *.* @your-es-logstash-or-filebeat-host:514;json-template
  • 如果无法修改发送端,可在接收端(如 Logstash 或 Filebeat)用 grok 过滤器解析传统 Syslog 格式,但维护成本更高。

选择轻量、可控的日志中转方式

Syslog 协议本身不带重试、加密、队列等能力,直接往 Elasticsearch 写入风险高。推荐用 Filebeat 或 Logstash 做中间层,而非让 rsyslog 直连 ES。

  • Filebeat 更轻量:启用 syslog input,监听 UDP/TCP 514 端口,自动解析 RFC3164/RFC5424 格式,并支持 TLS 加密、背压控制和失败重发。
  • Logstash 更灵活:适合需复杂字段提取、条件路由或与其他数据源合并的场景;但资源开销大,部署前评估吞吐量。
  • 避免用 rsyslog + omelasticsearch 插件直写 ES:插件稳定性弱,无内置缓冲,ES 不可用时日志易丢失。

在 Elasticsearch 中合理建模日志索引

默认动态映射可能把 IP 地址识别成 text,把时间戳识别成 keyword,导致无法范围查询或排序。应在索引创建时定义明确的 mapping。

  • 提前创建 index template(例如匹配 syslog-*):
    - timestamp 字段设为 date 类型,格式指定为 strict_date_optional_time||epoch_millis
    - client_ip、service_name 等设为 keyword(用于聚合、精确匹配)
    - message、details 等保留 text 类型,开启 standard 分词器
  • 用 Index Pattern 在 Kibana 中关联字段语义:标记 @timestamp 为时间字段,启用日志时间轴视图。
  • 按天滚动索引(如 syslog-2024.06.15),配合 ILM 策略自动删除旧数据或转入冷节点。

验证与调优要点

上线后别只看“有没有数据”,重点检查字段可查性、延迟和稳定性。

  • 用 Kibana Dev Tools 查一条日志:
    GET /syslog-*/_search?q=level:%22ERROR%22&size=1
    确认 level 能精确匹配,timestamp 可参与 range 查询。
  • 监控 Filebeat/Logstash 的 publish queue full 和 ES 的 bulk rejected 指标——说明写入速度超过 ES 承载能力,需调大 bulk size、增加 worker 数或优化 ES 集群配置。
  • Syslog UDP 传输不可靠,关键系统建议改用 TCP + TLS;若必须用 UDP,请在 Filebeat 中启用 ignore_older 防止积压日志干扰实时性。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
elk是什么意思
elk是什么意思

ELK指的是Elasticsearch、Logstash和Kibana三个开源软件的组合。想了解更多elk的相关内容,可以阅读本专题下面的文章。

3280

2023.12.18

Elasticsearch 从入门到搜索引擎实战
Elasticsearch 从入门到搜索引擎实战

本专题带你从零掌握 Elasticsearch 分布式搜索引擎。深入解析倒排索引核心原理,涵盖单机与 Docker 环境搭建、IK 中文分词器配置及索引文档的 CRUD 操作。通过丰富的 Query DSL 实战案例,详解布尔查询、聚合分析与高亮显示,助你快速构建毫秒级响应的企业级高性能搜索服务。

39

2026.05.12

Elasticsearch 高级查询与性能优化
Elasticsearch 高级查询与性能优化

本专题深入解析 Elasticsearch 高级查询与性能优化实战。详解 Bool 复合查询、复杂过滤及聚合分析技巧,解决多条件精准检索难题。从索引设计、JVM 调优到硬件规划,全方位分享 Filter 缓存、深分页优化及集群架构调优策略,助你突破性能瓶颈,打造毫秒级响应的高并发企业级搜索服务。

64

2026.05.12

Elasticsearch 企业级开发与运维实践专题
Elasticsearch 企业级开发与运维实践专题

本专题聚焦 Elasticsearch 企业级开发与运维实战。深入解析生产环境集群架构规划、节点角色分离及冷热数据分层策略。涵盖索引生命周期管理(ILM)、安全权限控制、快照备份及全链路监控告警体系搭建。通过分享高可用部署与故障排查经验,助你构建安全、稳定且可扩展的企业级分布式搜索平台。

81

2026.05.12

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

20

2026.10.21

Playwright 页面操作指南
Playwright 页面操作指南

Playwright页面操作专题汇集元素定位、点击与输入、等待响应、多页面切换、Iframe、事件监听及文件处理的已审核文章,便于按操作场景查阅示例与常见问题。

0

2026.10.21

Playwright 入门教程
Playwright 入门教程

Playwright入门专题汇集测试框架安装、VS Code配置、录制脚本、编写首个用例、运行调试及查看报告的已审核文章,帮助初学者搭建端到端测试流程。

0

2026.10.21

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

120

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn