讲师中心 微信公众号
AI工具推荐 视频效率加速

c++如何读取大文件_多线程并行读取文件流策略【深度】

阿宇姑娘_6006

阿宇姑娘_6006

发布时间:2026-04-09 18:47:30

|

992人浏览过

|

来源于php中文网

原创

std::ifstream 不支持多线程并发读取同一实例,必须采用文件分片+独立流实例+seekg()定位;更优方案是pread()或mmap()。

c++如何读取大文件_多线程并行读取文件流策略【深度】

大文件读取卡在 std::ifstream 单线程吞吐上?别硬扛

直接说结论:C++ 标准库的 std::ifstream 本身不支持多线程并发读取同一文件流——你调 read() 多次、开多个线程共用一个 ifstream 对象,结果不是数据错乱就是 badbit 立刻置位。真正可行的并行读取,必须基于「文件分片 + 独立流实例」,且需绕过内核缓冲和磁盘寻址瓶颈。

为什么不能让多个线程共享一个 std::ifstream

std::ifstream 内部维护一个共享的文件位置指针(gptr / seekpos)和底层 filebuf 缓冲区。即使你手动调用 seekg() 指定偏移,线程间仍会因缓冲区重载、get area 移动、locale 解析等引发竞态。实测中常见现象包括:

  • read() 返回字节数忽多忽少,甚至为 0(failbit 悄悄置位)
  • 同一偏移反复读出不同内容(内核 page cache 未同步或预读干扰)
  • 程序在 close() 时崩溃(filebuf::close() 非线程安全)

根本原因不是 C++ 实现缺陷,而是 POSIX 文件描述符(int fd)本身不保证 pread() 以外的并发读安全——而 std::ifstream 默认走的是 read() + 位置管理路径。

真正可用的并行策略:分片 + std::ifstream 独立实例 + seekg() 定位

核心思路是:把大文件按字节切块(例如每块 16MB),每个线程持有一个独立的 std::ifstream,打开同一文件后立刻用 seekg(offset, std::ios::beg) 跳到起始位置,再读取固定长度。关键细节:

立即学习“C++免费学习笔记(深入)”;

C++ Code Review Master
C++ Code Review Master

组合式C++代码评审方案,融合静态分析、AI推理、多轮迭代评审和C++专项检查,适用于PR审查、增量代码审查、全项目评审和代码质量评分,触发词包括review cpp、cpp代码评审、C++review、代码审查。

下载
  • 必须用 std::ios::binary 模式打开,否则文本模式会干扰字节偏移计算
  • 分片边界要对齐到逻辑记录边界(如换行符、结构体大小),否则解析时跨块截断;若纯二进制处理,可忽略此条
  • 避免使用 std::getline() 或 operator>> ——它们依赖内部缓冲和格式化状态,改用 read(buf, n) + 手动校验 gcount()
  • Linux 下建议在 open() 底层加 O_DIRECT(需对齐内存与偏移),跳过 page cache 减少内存抖动;但 Windows 上对应的是 FILE_FLAG_NO_BUFFERING,且要求 512B 对齐

示例片段(仅示意分片逻辑):

std::vector<std::thread> workers;
const size_t chunk_size = 16 * 1024 * 1024;
const size_t file_size = get_file_size("data.bin");
<p>for (size_t offset = 0; offset < file_size; offset += chunk_size) {
size_t len = std::min(chunk_size, file_size - offset);
workers.emplace_back([offset, len]() {
std::ifstream ifs("data.bin", std::ios::binary);
ifs.seekg(offset, std::ios::beg);
std::vector<char> buf(len);
ifs.read(buf.data(), len);
// 处理 buf...
});
}
for (auto& t : workers) t.join();</p>

比 std::ifstream 更稳的选择:pread() + mmap()(Linux)或 CreateFileMapping()(Windows)

当文件稳定、内存充足且需高频随机访问时,mmap() 是更优解:它把文件映射为进程虚拟内存,所有线程可直接通过指针读取任意偏移,无系统调用开销,也无需管理流状态。但要注意:

  • mmap() 不适合超大文件(如 >50GB)且物理内存不足时,易触发 OOM Killer
  • Windows 的 CreateFileMapping() + MapViewOfFile() 行为类似,但需显式指定 SEC_COMMIT 和最大映射尺寸
  • 若只是顺序扫描,pread() 比 mmap() 更轻量——每个线程调一次 pread(fd, buf, len, offset),完全规避了流对象和缓冲区管理
  • 务必检查 pread() 返回值是否等于 len,短读意味着 EOF 或 I/O 错误,不能只看 errno

用 pread() 替代流的最小改动示例:

int fd = open("data.bin", O_RDONLY);
// ... 分片循环中
ssize_t r = pread(fd, buf.data(), len, offset);
if (r != static_cast<ssize_t>(len)) {
    if (r == -1) perror("pread");
    else fprintf(stderr, "short read: %zd of %zu\n", r, len);
}

实际落地时,最常被忽略的是文件系统缓存行为与 NUMA 节点绑定——如果机器有多路 CPU,且文件在本地 NVMe 上,把线程绑到靠近磁盘控制器的 CPU 核,性能可能提升 20% 以上。这比纠结用不用多线程读本身更值得先验证。

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

4294

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

4431

2025.07.04

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

5679

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2825

2024.08.29

c++怎么把double转成int
c++怎么把double转成int

本专题整合了 c++ double相关教程,阅读专题下面的文章了解更多详细内容。

3548

2025.08.29

C++中int的含义
C++中int的含义

本专题整合了C++中int相关内容,阅读专题下面的文章了解更多详细内容。

2525

2025.08.29

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

319

2026.04.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

3798

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Conan 2 Essentials 免费课程
Conan 2 Essentials 免费课程

共0课时 | 0人学习

CMake 与 Conan 集成实践
CMake 与 Conan 集成实践

共0课时 | 0人学习

Conan 2 高级依赖模型介绍
Conan 2 高级依赖模型介绍

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn