讲师中心 微信公众号
AI工具推荐 视频效率加速

怎样导出仅包含错误记录的数据_条件筛选异常数据提取

落萱吖_2536

落萱吖_2536

发布时间:2026-05-14 10:00:21

|

925人浏览过

|

来源于php中文网

原创

关键逻辑是“先筛再导”,需用jq等工具在导出前按level或severity字段过滤error记录,注意大小写、字段名差异及JSONL逐行解析,采集端过滤更高效。

导出时只保留 error 级别日志的过滤逻辑

关键不是“导出”,而是“先筛再导”。绝大多数日志工具(如 grep、awk、jq)不支持导出时原生过滤,得靠管道或条件表达式提前切掉非 error 记录。

常见错误是直接用 cat logs.json | jq '.[]' > errors.json —— 这导出全部,没过滤。真正要的是加条件判断:

  • jq 'select(.level == "error" or .level == "ERROR" or .severity == "ERROR")' logs.json > errors.json
  • 注意大小写:有些系统用 error,有些用 ERROR,还有用 severity 字段的,得看实际数据结构
  • 如果字段名不固定(比如有的是 type、有的是 log_level),先用 head -5 logs.json | jq 看一眼结构再写条件

Python 读取 JSONL 日志并提取 error 行

JSONL(每行一个 JSON)比普通 JSON 更常见于日志导出场景,json 模块不能直接 load 整个文件,得逐行解析,否则会报 JSONDecodeError: Extra data。

实操建议:

  • 用 with open("app.log", "r") as f: 配合 for line in f: 逐行读取
  • 每行用 json.loads(line.strip()) 解析,捕获 json.JSONDecodeError 跳过脏数据
  • 检查字段存在性:用 record.get("level", "").lower() == "error",避免 KeyError
  • 示例片段:
    import json<br>errors = []<br>with open("app.log") as f:<br>    for line in f:<br>        try:<br>            record = json.loads(line.strip())<br>            if record.get("level", "").lower() == "error":<br>                errors.append(record)<br>        except json.JSONDecodeError:<br>            pass<br>with open("errors.json", "w") as out:<br>    json.dump(errors, out, indent=2)

Logstash 或 Fluentd 导出前就过滤 error

如果日志已接入采集链路,没必要导出全量再筛——在采集端过滤更省资源、也避免磁盘写入冗余数据。

Logstash 的 if 判断写法必须带括号,漏掉会静默失败:

  • if [level] == "error" { ... } ✅
  • if [level] == "error" {...} ❌(缺少空格,语法错误)
  • Fluentd 用 @type grep 插件时,regexp 匹配的是字符串全文,不是字段值;想按字段过滤得用 @type record_transformer + keep_keys 配合条件
  • 注意时间字段:有些配置里 @timestamp 是字符串,直接比较可能失败,需先用 date 过滤插件标准化

导出 CSV 时 error 字段为空或错位怎么办

CSV 不是结构化格式,强行把嵌套 JSON 日志转 CSV 容易丢字段或列错位,尤其当 error 是对象(如 {"message": "timeout", "code": 504})时。

解决方向很明确:别硬转 CSV,改用 jq 提取扁平字段:

  • jq -r 'select(.level=="error") | [.timestamp, .message, .error.code, .error.message] | @csv' logs.json > errors.csv
  • 如果 .error 可能不存在,用 .error?.code(问号操作符)避免整个记录被跳过
  • Windows 下用 jq 注意换行符:jq -r -M 防止 \r\n 混入字段内容
  • 真正要 CSV 就别留嵌套结构——要么提前展开,要么接受部分字段为 null

最常被忽略的是字段一致性:同一份日志里,有些 error 记录带堆栈,有些只有 message,导出成表格时列数会变。要么统一用 jq 做默认值填充,要么接受它本来就不适合 CSV。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2685

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

3901

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

2951

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

947

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2607

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2607

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2873

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2421

2023.10.19

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

0

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn