讲师中心 微信公众号
AI工具推荐 视频效率加速

c++怎么高效读取包含千万行数据的文本文件_流缓冲区定制【详解】

千丽小哥_2951

千丽小哥_2951

发布时间:2026-03-31 15:56:03

|

843人浏览过

|

来源于php中文网

原创

std::ifstream默认读千万行慢的主因是缓冲区过小(4KB)导致频繁系统调用和内存抖动,叠加同步stdio锁、string频繁分配及getline低效解析;优化需设大缓冲区、禁用同步、手动换行查找并用string_view避免拷贝。

c++怎么高效读取包含千万行数据的文本文件_流缓冲区定制【详解】

为什么 std::ifstream 默认读千万行会慢得反常

不是硬盘或算法的问题,是默认缓冲区太小(通常 4KB),每行触发一次系统调用 + 用户态拷贝。尤其当行长短且不规则时,std::getline 频繁检查换行符、反复扩容字符串,CPU 时间全耗在内存抖动和边界判断上。

  • 默认缓冲区无法覆盖单行长度?std::getline 会中途 fallback 到逐字节读取,性能断崖式下跌
  • 没禁用同步(std::ios::sync_with_stdio(false))?C++ 流和 C 的 FILE* 保持同步,额外锁开销不可忽略
  • 用 std::string 存每行?构造/析构 + 小对象分配器压力大,尤其在短行场景下

手动设置大缓冲区并绕过 std::string 分配

核心思路:用固定大小的栈数组或预分配的 std::vector<char></char> 接收原始字节,只在真正需要时解析成字符串——比如跳过注释行、过滤空行、或仅提取某几列。

  • 调用 rdbuf()->pubsetbuf(buf, bufsize) 必须在打开文件后、首次读取前执行;buf 必须生命周期长于流(推荐 static char buf[1024*1024])
  • 别用 std::getline,改用 stream.read(buf, n) + 手动找 '\n';注意 gcount() 返回实际读取字节数,不是 n
  • 若必须存文本,用 std::string_view 指向缓冲区内存段,避免复制;确保缓冲区在整个处理周期内不被覆盖
static char io_buf[8 * 1024 * 1024];
std::ifstream fin("data.txt", std::ios::binary);
fin.rdbuf()->pubsetbuf(io_buf, sizeof(io_buf));
fin.sync_with_stdio(false); // 必须在 setbuf 后、read 前

std::getline 还能抢救吗?慎用这些参数

如果业务逻辑强依赖 std::getline(比如第三方库要求 std::istream&),只能从参数和调用方式上压榨性能:

C++ 算法竞赛自动化测试数据生成与校验框架
C++ 算法竞赛自动化测试数据生成与校验框架

根据原题生成新题面、验证器及完整测试数据,自动套用 testlib 模板,用于用户要求生成测试数据时。

下载
  • 传入已预留容量的 std::string(line.reserve(256)),避免反复 realloc;但别 reserve 过大(如 1MB),浪费内存且影响 cache 局部性
  • 不要用 std::getline(fin, line, '\r') 等非默认分隔符——它禁用底层优化路径,退化为字符级扫描
  • 确认文件编码是纯 ASCII 或 UTF-8;含宽字符或 BOM 时,std::getline 可能误判换行位置,导致缓冲区错位

Linux 下 mmap + char* 扫描比流快多少

对只读、顺序遍历场景,mmap 能彻底绕过流层开销:无缓冲区管理、无异常机制、无 locale 解析。实测千万行(平均 80 字节)文本,mmap 扫描耗时约为 std::ifstream(调优后)的 1/3~1/2。

立即学习“C++免费学习笔记(深入)”;

  • mmap 失败不等于 OOM——可能是文件被截断或权限不足,检查 errno == EINVAL 或 EPERM
  • 扫描时用 memchr(ptr, '\n', len) 比手写循环快;但注意 memchr 不保证返回首个匹配,需配合偏移累加
  • Windows 对应方案是 CreateFileMapping + MapViewOfFile,接口更啰嗦,但原理一致

缓冲区大小不是越大越好——超过 8MB 后边际收益急剧下降,还可能触发内核页回收延迟;真正卡住性能的,往往是解析逻辑里那些没被注意到的 std::string::find 或临时 std::stringstream 构造。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

5279

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1558

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2264

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5784

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

4889

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

6594

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

8894

2024.04.29

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

4519

2025.07.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

80

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn