讲师中心 微信公众号
AI工具推荐 视频效率加速

如何用C++处理超大文件?内存映射文件技术

秋丽同学_5035

秋丽同学_5035

发布时间:2025-06-26 17:36:02

|

632人浏览过

|

来源于php中文网

原创

使用内存映射文件技术可高效处理超大文件。1. 它将文件直接映射到进程地址空间,避免频繁系统调用;2. 利用虚拟内存管理,按需加载文件页,节省内存;3. 不需一次性加载整个文件,适合gb级以上文件;4. c++在windows下通过createfilemapping和mapviewoffile实现,在linux下使用mmap函数;5. 优势包括提升i/o效率、简化代码结构、良好的跨平台兼容性;6. 注意事项包括选择只读或可写映射、处理文件大小限制、确保线程安全及完善错误处理。该技术适用于部分读取或随机访问的场景,整体思路清晰且使用简便。

如何用C++处理超大文件?内存映射文件技术

处理超大文件时,传统的读写方式往往会导致性能下降,甚至内存不足的问题。使用C++结合内存映射文件技术(Memory-Mapped Files)是一个高效、稳定的解决方案。

如何用C++处理超大文件?内存映射文件技术

什么是内存映射文件?

内存映射文件是一种操作系统提供的机制,它将磁盘上的文件内容直接映射到进程的地址空间中。程序可以像访问普通内存一样读写文件内容,而不需要频繁调用read()或write()函数。

如何用C++处理超大文件?内存映射文件技术

这种方式特别适合处理GB级别以上的大文件,因为它:

Windows-Android_SSH_Remote_Control
Windows-Android_SSH_Remote_Control

通过 SSH 隧道从 Android 设备在互联网上对 Windows PC 实现完整远程控制的设置与使用指南,适用于远程桌面访问、安全 RDP 等。

下载

立即学习“C++免费学习笔记(深入)”;

  • 避免了频繁的系统调用
  • 利用了操作系统的虚拟内存管理
  • 不需要一次性加载整个文件到内存

C++中如何实现内存映射文件?

在Windows和Linux下,实现方式略有不同,但逻辑类似。

如何用C++处理超大文件?内存映射文件技术

Windows平台:使用CreateFileMapping和MapViewOfFile

#include <windows.h>
#include <iostream>

int main() {
    HANDLE hFile = CreateFile(L"largefile.bin", GENERIC_READ, 0, NULL, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, NULL);
    HANDLE hMapping = CreateFileMapping(hFile, NULL, PAGE_READONLY, 0, 0, NULL);
    void* pData = MapViewOfFile(hMapping, FILE_MAP_READ, 0, 0, 0);

    // 使用pData访问文件内容
    const char* data = static_cast<const char*>(pData);
    std::cout << data[0] << std::endl; // 读取第一个字节

    UnmapViewOfFile(pData);
    CloseHandle(hMapping);
    CloseHandle(hFile);
}

Linux平台:使用mmap函数

#include <sys/mman.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <iostream>

int main() {
    int fd = open("largefile.bin", O_RDONLY);
    struct stat sb;
    fstat(fd, &sb);

    char* data = static_cast<char*>(mmap(nullptr, sb.st_size, PROT_READ, MAP_PRIVATE, fd, 0));

    std::cout << data[0] << std::endl;

    munmap(data, sb.st_size);
    close(fd);
}

内存映射处理大文件的优势

  1. 节省内存开销
    文件不会被全部加载进内存,而是按需加载页。

  2. 提升I/O效率
    避免了传统IO的多次拷贝与系统调用开销。

  3. 简化代码结构
    可以直接通过指针访问数据,无需循环读取。

  4. 跨平台兼容性较好
    虽然API不同,但核心思想一致,移植方便。


注意事项和常见问题

  • 只读还是可写?
    根据需求选择映射为只读(MAP_PRIVATE)或可写(MAP_SHARED),避免不必要的页错误。

  • 文件大小限制?
    一般不受限于内存大小,但要注意系统虚拟地址空间限制。

  • 线程安全?
    多线程访问时要自行加锁保护共享内存区域。

  • 错误处理不能少
    每次调用都要检查返回值是否为NULL,比如mmap失败会返回MAP_FAILED。


总结一下

内存映射文件技术是处理大文件的一种非常高效的手段,尤其适合那种只需要部分读取或随机访问的场景。虽然具体实现上Windows和Linux略有差异,但整体思路清晰,使用起来也不复杂。

基本上就这些。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

549

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1698

2024.03.01

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

379

2026.04.23

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4398

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1229

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

423

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

559

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

409

2026.02.06

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn