讲师中心 微信公众号
AI工具推荐 视频效率加速

使用Golang处理JSON流式数据_json.Decoder处理超大文件

夏枫君_1817

夏枫君_1817

发布时间:2026-02-22 17:29:55

|

857人浏览过

|

来源于php中文网

原创

json.Decoder 更适合大文件因其边读边解析、内存占用低;而 json.Unmarshal 需一次性加载全部数据易OOM。

使用golang处理json流式数据_json.decoder处理超大文件

json.Decoder 为什么比 json.Unmarshal 更适合大文件

因为 json.Unmarshal 要把整个 JSON 字符串一次性读进内存再解析,1GB 的文件很可能直接 OOM;而 json.Decoder 是边读边解析,按需解码,内存占用基本只取决于单个对象大小。

典型场景:日志行是独立 JSON(每行一个对象)、API 返回的 streaming JSON(如 Server-Sent Events)、数据库导出的超大 JSON 数组。

  • 如果数据是 [{...}, {...}, {...}] 这种数组格式,必须先跳过 [、处理逗号分隔、识别 ] 结束——json.Decoder 自动处理这些,你只需反复调用 Decode()
  • 如果数据是换行分隔(NDJSON),直接对每行新建 json.NewDecoder(strings.NewReader(line)) 即可,但注意别在循环里频繁创建 Decoder 实例,复用更高效
  • 错误提示常是 invalid character '}' looking for beginning of value——多半是上一次 Decode() 没读完就重用了 Decoder,它内部缓冲区还留着残留字节

如何安全地流式解码 JSON 数组

很多人以为 json.Decoder 不能解数组,其实可以,只是得手动跳过开头的 [ 和结尾的 ],中间用循环逐个解码。

关键点在于:调用 Decode() 前,先用 Token() 吃掉左括号;每次成功解码后,检查下一个 token 是否为 , 或 ],决定是否继续。

chartjs-reporter
chartjs-reporter

此技能用于在用户需要将结构化数据(查询结果、CSV 摘要、JSON 记录或 Python 字典/列表)转换为独立的 HTML 页面时使用。

下载

立即学习“go语言免费学习笔记(深入)”;

  • 用 d.Token() 获取第一个 token,确认是 json.Delim('{') 或 json.Delim('['),否则提前退出
  • 数组内每个对象解码后,立刻调用 d.Token() 看下一个 token:如果是 ',',继续循环;如果是 ']',break;其他值(比如 '}')说明格式异常
  • 不要依赖 io.EOF 判断结束——数组末尾的 ] 不会触发 EOF,而是让下一次 Token() 返回 nil,需主动检测

遇到嵌套结构或未知字段时怎么避免 panic

json.Decoder 默认遇到 JSON 字段名在 struct 中没有对应字段,会静默忽略;但如果字段类型不匹配(比如 JSON 给了字符串,Go struct 定义为 int),就会报 json: cannot unmarshal string into Go struct field XXX of type int。

  • 对可能缺失或类型不稳的字段,用指针类型(如 *string、*int64),解码失败时该字段保持 nil,不会 panic
  • 用 json.RawMessage 接收不确定结构的子字段,后续按需再解码,避免一次性强约束
  • 开启 DisallowUnknownFields():调用 d.DisallowUnknownFields() 可在遇到 struct 没定义的字段时立即报错,方便定位数据格式变更

性能瓶颈常卡在哪儿?几个实测有效的优化点

不是所有“流式”都快——如果解码逻辑本身有阻塞、IO 没缓冲、或频繁分配小对象,吞吐量照样上不去。

  • 给底层 io.Reader 加 bufio.NewReaderSize(r, 64*1024),尤其读文件或网络流时,减少系统调用次数
  • 复用 struct 实例:在循环里用 var v MyStruct 而不是每次都 new(MyStruct),避免 GC 压力
  • 避免在 Decode() 循环里做耗时操作(如写 DB、HTTP 请求)——先批量收集,再异步处理,否则解码器实际在等 I/O
  • 如果目标是提取少量字段,考虑用 jsoniter 或 gjson 配合 bytes.IndexByte 手动切片,比完整解码快 3–5 倍,但 lose 类型安全

最易被忽略的是:decoder 的错误处理粒度。一次 Decode() 失败后,如果不重置 reader 位置或重建 decoder,后续所有解码都会失败——流式处理必须能容忍单条脏数据,而不是整批报废。

热门AI工具

更多
咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

519

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

596

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1136

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

771

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1686

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

4714

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

2174

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

4046

2025.06.17

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 21万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 4.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn