讲师中心 微信公众号
AI工具推荐 视频效率加速

C++怎么处理大文件 C++内存映射文件mmap用法【进阶】

梦磊同学_4609

梦磊同学_4609

发布时间:2026-03-06 13:56:41

|

417人浏览过

|

来源于php中文网

原创

c++怎么处理大文件 c++内存映射文件mmap用法【进阶】

为什么 mmap 是处理大文件的首选方案

因为 read() 或 fread() 会把数据从内核缓冲区拷贝到用户空间,对 GB 级文件反复调用就是灾难;mmap() 让虚拟内存直接指向磁盘页,读写即访问内存地址,零拷贝、按需加载、支持随机访问——前提是你的场景不依赖强实时或频繁小块写入。

注意:Windows 没有 mmap(),得用 CreateFileMapping() + MapViewOfFile(),但 Linux/macOS 下统一用 mmap() 更直接。

mmap() 最简安全调用要填对哪几个参数

新手常卡在 prot 和 flags 组合上,比如只读文件却传了 PROT_WRITE,或想修改却忘了加 MAP_SHARED。

  • prot:只读文件用 PROT_READ;需写入且同步回磁盘用 PROT_READ | PROT_WRITE
  • flags:必须选 MAP_PRIVATE(写时复制,不影响原文件)或 MAP_SHARED(写入直接落盘);MAP_POPULATE 可预读,但会阻塞,慎用
  • fd:必须是已打开的、支持 mmap 的文件描述符(普通磁盘文件可以,管道/终端不行)
  • offset:必须是页对齐(通常 getpagesize() 的整数倍),否则 mmap() 失败返回 MAP_FAILED

示例:

int fd = open("big.bin", O_RDONLY);<br>size_t len = lseek(fd, 0, SEEK_END);<br>void* addr = mmap(nullptr, len, PROT_READ, MAP_PRIVATE, fd, 0);<br>if (addr == MAP_FAILED) { /* 处理错误 */ }

立即学习“C++免费学习笔记(深入)”;

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

写入大文件时 msync() 和 munmap() 的调用时机

用 MAP_SHARED 写完不调 msync(),数据可能还在页缓存里,进程崩溃或系统断电就丢;但频繁 msync() 会拖慢性能,尤其小块写。

  • 批量写入后、关键节点前调一次 msync(addr, len, MS_SYNC)(强制刷盘)或 MS_ASYNC(后台刷)
  • munmap() 不负责刷盘,只解映射;它可以在 msync() 后任意时间调,但不能在 msync() 前释放 addr
  • 进程退出时内核会自动清理映射,但显式 munmap() 更可控,避免长期占用虚拟内存区域

常见错误:munmap() 后还访问 addr → Segmentation fault;msync() 传错长度(小于实际写入范围)→ 部分数据未落盘。

超过 2GB 文件在 32 位环境或某些 libc 上的兼容问题

size_t 在 32 位系统上只有 4 字节,而 mmap() 的 len 参数类型正是 size_t,所以理论上最大映射 4GB —— 但实际常卡在 2~3GB,因为用户空间地址空间被栈、堆、共享库挤占。

  • 64 位编译是根本解法:g++ -m64,确保 sizeof(size_t) == 8
  • 不要试图单次 mmap() 整个 10GB 文件;改用分段映射:每次映射 128MB,处理完 munmap() 再映射下一段
  • 检查 getconf PAGE_SIZE 和 ulimit -v(虚拟内存限制),有些容器环境默认设得很低

容易被忽略的一点:mmap() 成功不代表物理内存已分配,真正触发缺页中断是在首次访问对应地址时——所以“映射成功”不等于“数据已加载”,延迟可能出现在第一次读取某块时。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

5947

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2528

2023.08.10

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

5947

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2528

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3259

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2838

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

1488

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

2599

2023.08.02

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn