讲师中心 微信公众号
AI工具推荐 视频效率加速

php远程访问文件怎么打开_phpcurl分块读取远程大文件法【分块】

冬敏君_2190

冬敏君_2190

发布时间:2026-01-14 12:24:39

|

429人浏览过

|

来源于php中文网

原创

正确做法是关闭CURLOPT_RETURNTRANSFER(设为false),用CURLOPT_WRITEFUNCTION回调流式处理数据,维护缓冲区按行切分并安全解析JSON;fopen('http://...')缺乏超时、重试、Header控制等能力,不适合生产环境大文件下载。

php远程访问文件怎么打开_phpcurl分块读取远程大文件法【分块】

PHP 用 cURL 分块读取远程大文件时,curl_setopt($ch, CURLOPT_RETURNTRANSFER, true) 会吃光内存

这是最常踩的坑:想边下载边处理,却误设 CURLOPT_RETURNTRANSFERtrue,导致整个响应体被缓存进内存。1GB 文件直接 OOM。正确做法是关掉它,改用回调函数流式接收。

  • CURLOPT_RETURNTRANSFER 必须设为 false(默认值,可不设)
  • CURLOPT_WRITEFUNCTION 指定自定义写入回调,每次只处理 curl 推送的一小段数据(通常几 KB)
  • 回调函数必须返回实际写入字节数,否则 cURL 会中断连接
  • 记得用 stream_set_timeout()CURLOPT_TIMEOUT 防止卡死

分块回调函数里怎么安全写入本地文件或解析 JSON 行?

回调不是“每行调用一次”,而是按底层 TCP 包大小推送数据(可能半行、跨行)。不能直接 json_decode($data),要自己做缓冲和行切分。

  • 维护一个全局或闭包内的 $buffer 字符串,拼接每次传入的 $data
  • strpos($buffer, "\n") 找完整行,substr 截取后更新 $buffer
  • 对每一整行做业务处理(如 json_decode($line, true)
  • 写入文件推荐用 fwrite($fp, $line . "\n"),避免 file_put_contents(..., FILE_APPEND) 频繁打开文件
function writeCallback($ch, $data) {
    static $fp = null;
    static $buffer = '';

    $buffer .= $data;
    while (($pos = strpos($buffer, "\n")) !== false) {
        $line = substr($buffer, 0, $pos);
        $buffer = substr($buffer, $pos + 1);

        // 示例:写入文件
        if ($fp === null) $fp = fopen('/tmp/output.jsonl', 'wb');
        fwrite($fp, $line . "\n");
    }
    return strlen($data); // 必须返回,否则 cURL 报错 CURLE_WRITE_ERROR
}

为什么 fopen('http://...', 'r') 不适合大文件?

PHP 的 file_get_contentsfopen 封装了 stream wrapper,但默认不支持 chunked 编码下的流式控制,且无法设置超时、重试、Header 等关键参数。遇到 302 重定向或服务端分块传输(Transfer-Encoding: chunked)时行为不可控。

腾讯地图JSAPI GL开发技能
腾讯地图JSAPI GL开发技能

腾讯地图 JavaScript GL(JSAPIGL)开发指南。适用于地图应用或者工具的编写。在编写、审查或调试使用腾讯地图 API的代码时应运用此技能。适用于涉及地图初始化、覆盖物展示、图层控制、事件处理、控件交互、可视化渲染、地图工具、检索、路线规划、查地址、行政区划、ip定位、几何计算、三维模型展示、性能优化的任务。当用户提及 腾讯地图、 jsapi、jsapi-gl或相关地图开发需求时自动触发。⚠️ 强制行为:本 Skill 加载后,第一个动作必须是检查是否存在正式 Key(环境变量 TMAP_J

下载
  • fopen('http://...') 无法获取响应状态码或 Header,出错只能靠 feof() 判断,不准确
  • 没有内置重试机制,网络抖动直接失败
  • 无法设置 User-AgentAuthorization 等必要 Header
  • 遇到 gzip 压缩响应,需手动解压(stream_filter_append 配置复杂)

生产环境必须加的防护项

远程文件不可信,不加限制的分块读取可能被恶意响应拖垮服务。

立即学习PHP免费学习笔记(深入)”;

  • CURLOPT_CONNECTTIMEOUTCURLOPT_TIMEOUT 控制连接与总耗时(例如各 30 秒)
  • CURLOPT_HEADERFUNCTION 检查 Content-LengthContent-Type,非预期类型提前中止
  • 在回调里做累计字节计数,超过阈值(如 500MB)主动 curl_close($ch) 并报错
  • 禁用重定向(CURLOPT_FOLLOWLOCATION 设为 false),防止跳转到不可控地址

真正难的不是“怎么分块”,而是“怎么在不信任的网络链路里稳住内存、不丢数据、不卡死”。这些细节漏一条,上线就变定时炸弹。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

1955

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

2622

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

916

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

2919

2025.09.10

curl_exec
curl_exec

curl_exec函数是PHP cURL函数列表中的一种,它的功能是执行一个cURL会话。给大家总结了一下php curl_exec函数的一些用法实例,这个函数应该在初始化一个cURL会话并且全部的选项都被设置后被调用。他的返回值成功时返回TRUE, 或者在失败时返回FALSE。

3323

2023.06.14

linux常见下载安装工具
linux常见下载安装工具

linux常见下载安装工具有APT、YUM、DNF、Snapcraft、Flatpak、AppImage、Wget、Curl等。想了解更多linux常见下载安装工具相关内容,可以阅读本专题下面的文章。

715

2023.10.30

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1538

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2204

2023.09.04

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

0

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn