讲师中心 微信公众号
AI工具推荐 视频效率加速

C# 操作JSONL/NDJSON文件 C#如何读取和写入换行分隔的JSON文件

酷辰小哥_6644

酷辰小哥_6644

发布时间:2026-02-19 10:24:34

|

512人浏览过

|

来源于php中文网

原创

用 StreamReader 逐行读取 JSONL 文件最稳,因其每行是独立 JSON 对象,须逐行解析而非整体反序列化;写入时禁用 WriteIndented 并用 WriteLine 确保单行格式;处理大文件需异步读取并显式设置缓冲区与编码以规避 BOM 和超长行问题。

c# 操作jsonl/ndjson文件 c#如何读取和写入换行分隔的json文件

用 StreamReader 逐行读取 JSONL 文件最稳

JSONL(也叫 NDJSON)本质就是每行一个合法 JSON 对象,不能当完整 JSON 数组去解析。直接用 JsonSerializer.Deserialize<list>>()</list> 会报 JsonException: The input does not contain any JSON tokens 或中途崩溃——因为第一行之后的换行符会让反序列化器误判流已结束。

正确做法是按行读,每行单独解析:

  • 用 StreamReader 打开文件,调用 ReadLine() 逐行获取字符串
  • 对每一行非空字符串,传给 JsonSerializer.Deserialize<t>()</t>,别用 DeserializeAsync ——它不适用于碎片化输入
  • 遇到某行解析失败(比如字段缺失、类型错),建议记录该行号和原始内容,而不是直接抛异常中断整个读取

示例关键片段:

using var reader = new StreamReader("data.jsonl");
string? line;
int lineNumber = 0;
while ((line = await reader.ReadLineAsync()) != null)
{
    lineNumber++;
    if (string.IsNullOrWhiteSpace(line)) continue;
    try
    {
        var item = JsonSerializer.Deserialize<MyRecord>(line);
        // 处理 item
    }
    catch (JsonException ex)
    {
        Console.WriteLine($"Line {lineNumber} parse failed: {ex.Message}");
    }
}

写入 JSONL 必须手动控制换行,不能依赖 JsonSerializerOptions.WriteIndented

开启 WriteIndented = true 会让每个对象带缩进和多行格式,彻底破坏 JSONL 格式(要求每行严格一个对象,且无换行)。结果是:后续工具(如 jq、pandas.read_json(lines=True))全读不出来,或只读到第一行。

写入时要确保:

  • 每个对象序列化后是单行纯文本,结尾加 \n(不是 \r\n,除非明确目标环境只认 Windows 换行)
  • 用 StreamWriter,并显式调用 WriteLine() ——它自动补 \n,且不加空格或缩进
  • 避免用 Console.WriteLine() 或拼接字符串写入,容易混入不可见字符

示例:

Expanso yaml-to-json
Expanso yaml-to-json

使用 Expanso Edge 管道将 YAML 输入转换为 JSON 格式。

下载
using var writer = new StreamWriter("output.jsonl");
foreach (var item in data)
{
    string json = JsonSerializer.Serialize(item, new JsonSerializerOptions
    {
        WriteIndented = false, // 必须关掉
        Encoder = JavaScriptEncoder.UnsafeRelaxedJsonEscaping
    });
    await writer.WriteLineAsync(json); // WriteLine 自动加 \n
}

处理大文件时,StreamReader.ReadLineAsync 比同步版更安全

读取几百 MB 甚至 GB 级 JSONL 文件时,同步 ReadLine() 会阻塞线程,拖慢整个应用响应;而 ReadLineAsync() 配合 ConfigureAwait(false) 能释放线程资源,尤其在 ASP.NET Core 后端或长时间运行服务中很关键。

但要注意:

  • 必须在 async 方法里用,别用 .Result 或 .Wait() 强制同步——可能死锁
  • StreamReader 默认缓冲区是 1024 字节,如果某一行超长(比如嵌入了 base64 图片),可能触发 ArgumentException: Buffer too small;此时应显式传入更大缓冲区,如 new StreamReader(stream, Encoding.UTF8, true, 65536)
  • 不要用 File.ReadLines() ——它底层仍是同步读,且无法控制缓冲区大小

别忽略 BOM 和编码问题,UTF-8 with BOM 会让首行解析失败

Windows 记事本保存的 UTF-8 文件常带 BOM(EF BB BF),导致第一行开头出现非法字符,JsonSerializer.Deserialize() 直接报 InvalidDataException: Invalid prefix 或类似错误,但错误信息不提示 BOM。

稳妥做法:

  • 读取前用 new StreamReader(stream, Encoding.UTF8, true),第三个参数 detectEncodingFromByteOrderMarks = true 会自动跳过 BOM
  • 写入时用 new StreamWriter(stream, new UTF8Encoding(encoderShouldEmitUTF8Identifier: false)) 确保不写 BOM
  • 如果必须支持带 BOM 的文件,可在读取后对首行做 line.TrimStart('\uFEFF'),但不如让 StreamReader 自动处理干净

真正麻烦的是混合编码文件(比如部分行是 GBK),这种 JSONL 已违反规范,得先统一转码再处理——没有银弹,只能前置清洗。

热门AI工具

更多
讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

讯飞智文

一款面向学习和办公场景的AI文档创作工具,可辅助生成PPT与Word文档,提高资料整理和内容制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2275

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3722

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1236

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4299

2025.09.10

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

851

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1898

2023.08.03

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

0

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
WEB前端教程【HTML5+CSS3+JS】
WEB前端教程【HTML5+CSS3+JS】

共101课时 | 21.3万人学习

JS进阶与BootStrap学习
JS进阶与BootStrap学习

共39课时 | 4.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn