讲师中心 微信公众号
AI工具推荐 视频效率加速

如何分块读取超大文件_PHP分片段读取超大文件避免内存溢出【技巧】

风雪君_3926

风雪君_3926

发布时间:2026-02-21 19:48:11

|

454人浏览过

|

来源于php中文网

原创

处理超大文件应避免file_get_contents(),可采用五种分块读取法:一、fopen+fread按字节读;二、fgets按行读文本;三、SplFileObject面向对象迭代;四、stream_copy_to_stream高效复制;五、pcntl_fork多进程并行读。

如何分块读取超大文件_php分片段读取超大文件避免内存溢出【技巧】

如果您需要处理一个体积远超 PHP 内存限制的文件,直接使用 file_get_contents() 或 file() 将导致内存溢出错误。以下是分块读取超大文件的多种可靠方法:

一、使用 fopen + fread 按固定字节长度分块读取

该方法通过打开文件流后逐次调用 fread() 读取指定字节数,避免一次性载入全部内容,适用于任意文本或二进制文件。

1、使用 fopen() 以只读模式打开文件,获取资源句柄。

2、使用 fread() 每次读取例如 8192 字节(可根据 I/O 性能调整),直到 feof() 返回 true。

立即学习“PHP免费学习笔记(深入)”;

3、对每次读取的字符串片段进行处理,例如正则匹配、写入新文件或统计字符数。

4、处理完毕后调用 fclose() 关闭文件句柄。

二、使用 fgets 按行读取文本文件

当文件为纯文本且需按逻辑行处理时,fgets() 可自动识别换行符并逐行读取,每行占用内存仅与最长行长度相关,天然规避整文件加载风险。

1、使用 fopen() 打开文件,确保模式为 r 或 rb。

2、在 while 循环中持续调用 fgets(),其返回值为单行字符串(含换行符)或 false(到达末尾)。

3、对当前行执行业务逻辑,例如解析 CSV 字段、过滤关键词或写入数据库。

4、循环结束后调用 fclose() 释放资源。

三、使用 SplFileObject 进行面向对象式分块迭代

SplFileObject 是 SPL 提供的迭代器封装类,支持 seek、key、current 等操作,可配合 foreach 实现可控的逐行或批量读取,同时具备异常安全性和编码检测能力。

1、实例化 SplFileObject 并传入文件路径,可选设置 READ_AHEAD 和 SKIP_EMPTY 标志。

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载

2、使用 setMaxLineLen() 控制单次读取最大长度,防止超长行耗尽内存。

3、在 foreach 中遍历对象,每次迭代返回一行;或调用 current() 与 next() 手动控制步进。

4、对象析构时自动关闭文件,但显式调用 __destruct() 或置为 null 可提前释放。

四、使用 stream_copy_to_stream 实现高效文件片段复制

当目标是将超大文件的部分内容复制到另一资源(如临时文件、压缩流或网络 socket)时,stream_copy_to_stream() 可在底层 C 层完成缓冲传输,不经过 PHP 用户空间,效率极高且内存占用恒定。

1、用 fopen() 打开源文件和目标流(如 php://temp 或 fopen('output.bin', 'w'))。

2、调用 stream_copy_to_stream() 并传入源流、目标流及可选的 maxlen 参数,精确控制拷贝字节数。

3、重复调用该函数配合 fseek() 实现分段拷贝,例如每次处理 1MB。

4、所有流操作完成后分别调用 fclose() 关闭源与目标句柄。

五、结合 pcntl_fork 实现多进程分块并行读取(仅限 CLI 环境)

在命令行环境下,可通过 pcntl_fork() 创建子进程,各进程基于文件偏移量独立读取不同区块,适用于 CPU 密集型解析任务,但需注意文件锁与偏移同步问题。

1、主进程使用 filesize() 获取总长度,并计算每个子进程应处理的字节范围,例如平均分为 4 块。

2、主进程调用 pcntl_fork() 创建子进程,子进程使用 fopen() 打开同一文件,再用 fseek() 定位到起始偏移。

3、子进程调用 fread() 读取分配长度的数据,完成解析后写入临时结果文件。

4、主进程调用 pcntl_wait() 等待所有子进程退出,最后合并各临时结果文件。

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

php

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

549

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1678

2024.03.01

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

354

2023.09.25

php中foreach用法
php中foreach用法

本专题整合了php中foreach用法的相关介绍,阅读专题下面的文章了解更多详细教程。

758

2025.12.04

go语言 面向对象
go语言 面向对象

本专题整合了go语言面向对象相关内容,阅读专题下面的文章了解更多详细内容。

6155

2025.09.05

java面向对象
java面向对象

本专题整合了java面向对象相关内容,阅读专题下面的文章了解更多详细内容。

322

2025.11.27

C++ 面向对象编程与设计模式实践
C++ 面向对象编程与设计模式实践

本专题整合了 C++ 面向对象编程的核心机制,涵盖类的定义与访问控制、构造函数与析构函数、拷贝语义与移动语义、继承与虚函数多态、抽象类与接口、运算符重载、友元函数等关键知识点,同时结合单例模式、工厂模式、观察者模式、策略模式等常用设计模式的 C++ 实现,帮助开发者写出结构清晰、易于维护的面向对象代码。

324

2026.04.09

Java 面向对象与核心编程机制
Java 面向对象与核心编程机制

系统讲解 Java 面向对象编程的核心知识体系,涵盖类的定义与封装、构造方法与 this/super 关键字、继承与方法重写、多态与向上向下转型、抽象类与接口的区别与设计原则、异常处理机制(try-catch-finally / 自定义异常)、泛型的类型参数与通配符、集合框架(List/Set/Map)的使用与遍历方式,帮助开发者全面掌握 Java 程序设计的核心机制与面向对象思维。

223

2026.04.17

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

80

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn