讲师中心 微信公众号
AI工具推荐 视频效率加速

C#读取大文本文件 C#如何高效读取GB级别的文件

梦墨同学_7234

梦墨同学_7234

发布时间:2026-03-03 10:03:12

|

358人浏览过

|

来源于php中文网

原创

应使用 StreamReader 按行流式读取 GB 级文件,避免 File.ReadAllLines() 导致 OOM;需指定编码、复用实例、预建行偏移索引支持随机访问;对高性能场景可选 Span 手动解析,但需谨慎处理边界与编码。

c#读取大文本文件 c#如何高效读取gb级别的文件

用 StreamReader 按行流式读取,别加载进内存

GB 级文件直接 File.ReadAllLines() 或 File.ReadAllText() 会瞬间 OOM——字符串对象在 .NET 中是 UTF-16 编码,1GB 的 ASCII 文件加载后实际占用约 2GB 内存,还附带 GC 压力。StreamReader 是唯一靠谱的起点,它内部使用缓冲区(默认 1024 字节),逐块解码、按需吐出字符串,内存占用稳定在几 KB 到几十 KB。

实操建议:

  • 始终指定编码,如 new StreamReader(path, Encoding.UTF8),避免 BOM 判断开销或乱码
  • 用 ReadLine() 而非 ReadToEnd();若需跳过前 N 行,用循环 + DiscardBufferedData() 无意义,直接 for 丢弃即可
  • 不要在循环里反复新建 StreamReader;一个实例复用到底

需要随机访问某一行?别硬扛,先建索引

StreamReader 不支持 Seek 到第 N 行——因为行长度不固定,无法 O(1) 定位。想“读第 100 万行”,只能从头扫,耗时不可控。真有此需求,必须预处理建行偏移索引。

做法很简单:第一遍扫描只记每行起始 Stream.Position,写入一个轻量二进制或 CSV 文件(如每行存一个 long);后续读取时用 FileStream.Seek() 跳转,再用 StreamReader 读该行:

using var fs = new FileStream("file.txt", FileMode.Open, FileAccess.Read, FileShare.Read, 4096, FileOptions.SequentialScan);
fs.Seek(offsets[lineNumber], SeekOrigin.Begin);
using var sr = new StreamReader(fs, Encoding.UTF8);
string line = sr.ReadLine(); // 就是你要的那行

注意:FileOptions.SequentialScan 提示 OS 使用顺序读优化,对大文件有效;索引文件本身只有几 MB,远小于原始文件。

C#
C#

"避开 C# 常见错误——空陷阱、异步陷阱、LINQ 陷阱及资源泄漏。"

下载

比逐行更快?试试 Span<byte></byte> + 手动解析

如果文件格式简单(如纯 ASCII 日志、CSV 无引号嵌套),且你愿意放弃部分可读性换性能,Span<byte></byte> 直接操作字节比 StreamReader 快 2–5 倍。核心是绕过字符串解码、避免 GC 分配。

关键点:

  • 用 FileStream.ReadAsync(Memory<byte>)</byte> 配合栈上 Span<byte></byte> 处理缓冲区
  • 用 IndexOf((byte)'\n') 找行尾,Utf8Decoder.Decode() 按需转字符串(仅对目标行)
  • 务必处理跨缓冲区的换行符(即 \n 恰好在 buffer 边界),需保留末尾不完整行头
  • 不推荐新手直接上手——调试困难,编码逻辑(如 UTF-8 多字节)易出错

别忽略文件系统和硬件层的影响

代码再优,遇到机械硬盘、网络共享盘(SMB/NFS)、或 NTFS 压缩属性,吞吐量可能跌到 10MB/s 以下。这些不是 C# 能解决的:

  • 确认文件是否启用了 NTFS 压缩:fsutil behavior query disablelastaccess 和 compact /q file.txt 查看;压缩文件会强制解压到内存再读,彻底废掉流式优势
  • SSD 上开启 FileOptions.RandomAccess 可能反而拖慢;顺序大文件一律用 SequentialScan
  • 远程文件优先考虑下载本地再处理;SMB 共享下 StreamReader 的缓冲区大小建议调大到 64KB 或 128KB 减少往返

真正卡住的时候,先用 Process Monitor 看是不是在等磁盘 IO,而不是急着改 C# 代码。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
c#是什么意思
c#是什么意思

C#是一种通用的面向对象编程语言,它在.NET框架上运行,可用于开发各种类型的应用程序。本专题为大家提供c#相关的各种文章、以及下载和课程。

1052

2023.08.08

什么是c#
什么是c#

C#(读作C Sharp)是一种现代的、通用的、面向对象的编程语言。它由微软公司开发,于2000年首次发布,主要用于开发Windows桌面应用程序、Web应用程序、移动应用程序以及游戏开发等领域。C#是一种类型安全和托管的编程语言,它结合了C++的强大性能和C语言的简单易学特点,并引入了许多新的特性和概念,如委托、属性、泛型和异步编程等,以提高开发效率和代码可维护性。

3091

2023.08.31

C#中base关键字的用法
C#中base关键字的用法

在C#中,base关键字用于访问当前类的基类成员,这包括基类的字段、属性、方法、构造函数、索引器以及事件。想了解更多C#的相关内容,可以阅读本专题下面的文章。

905

2024.03.13

C#Task用法
C#Task用法

Task在C#中是用于表示异步操作的对象,它位于System.Threading.Tasks命名空间中。想了解更多C#中各种用法的相关内容,可以阅读本专题下面的文章。

2635

2024.03.14

C# 并发与异步编程
C# 并发与异步编程

本专题系统讲解 C# 异步编程与并发控制,重点介绍 async 和 await 关键字、Task 类、线程池管理、并发数据结构、死锁与线程安全问题。通过多个实战项目,帮助学习者掌握 如何在 C# 中编写高效的异步代码,提升应用的并发性能与响应速度。

332

2026.02.03

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

409

2026.02.06

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

631

2026.03.11

C# Unity游戏开发与ECS架构实践
C# Unity游戏开发与ECS架构实践

本专题聚焦 C# 在 Unity 游戏开发中的应用,系统讲解 ECS(Entity-Component-System)架构设计、游戏对象管理、性能优化与内存控制策略。通过实际游戏案例,帮助开发者构建高性能、结构清晰的游戏系统,提高游戏开发效率与运行性能。

329

2026.04.13

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn