讲师中心 微信公众号
AI工具推荐 视频效率加速

ThinkPHP怎么循环分批写入不超内存

雨明酱_3869

雨明酱_3869

发布时间:2026-10-24 15:20:31

|

302人浏览过

|

来源于php中文网

原创

ThinkPHP循环分批写入不超内存的核心是避免数据在内存堆积,关键三步:切片加载(array_chunk)、原生写入(Db::insertAll)、及时释放(unset+gc_collect_cycles)。

thinkphp怎么循环分批写入不超内存

ThinkPHP 循环分批写入不超内存,核心不是“控制循环次数”,而是“不让数据在内存里堆积”。关键动作就三步:切片加载、原生写入、及时释放。

用 array_chunk 切成小批次

别把全部数据一次性读进数组再传给 insertAll。比如有 50 万条记录,先按 400 条一批切分:

  • 每批 200–500 条较稳妥,字段少、索引简单可选 500;含 JSON 或多文本字段建议压到 300
  • 用 array_chunk($data, 400) 拆分,不是靠框架自动分,TP8 不会帮你 chunk
  • 如果数据来自 Excel,直接用 Spout 流式读取,边读边 chunk,内存恒定在 3–5MB

用 Db::insertAll 走原生 SQL

绕过模型层,避免验证、事件、时间戳、对象实例化等开销:

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载
  • 不用 saveAll(),它每条都 new Model,10 万条就是 10 万个对象引用
  • 字段名必须和数据库列严格一致,比如 create_time 不会自动填充,得自己塞进去
  • json 字段提前 json_encode(),insertAll 不做序列化
  • 返回值是影响行数(int),不是 ID 列表,别指望回填主键

每批后手动清理 + 控制执行环境

光分批还不够,PHP 引用不释放,内存照样涨:

立即学习“PHP免费学习笔记(深入)”;

  • 每批插入完立刻 unset($chunk),再调 gc_collect_cycles()
  • CLI 脚本开头加 set_time_limit(0),Web 请求别硬扛,改用队列或前端分片上传
  • 关闭调试:app_debug = false,删掉所有 dump() 和 Log::debug($hugeData)
  • 事务按批包裹:Db::transaction(fn() => Db::insertAll($chunk)),别用一个事务包全部

超百万行时考虑直连数据库导入

当数据量达百万级,连 insertAll 都可能触碰 MySQL 的 max_allowed_packet 限制(默认 4MB):

  • 导出为 CSV,用 LOAD DATA INFILE(MySQL)或 COPY(PostgreSQL),完全不走 PHP 内存
  • 若必须 PHP 控制,拼接 INSERT INTO ... VALUES (),(),(),单条 SQL 控制在 ≤ 1000 行,注意 PDO 绑定参数上限
  • 连接配置中设 'persistent' => false,防止连接资源滞留不释放

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

相关专题

更多
thinkphp和laravel哪个简单
thinkphp和laravel哪个简单

对于初学者来说,laravel 的入门门槛较低,更易上手,原因包括:1. 更简单的安装和配置;2. 丰富的文档和社区支持;3. 简洁易懂的语法和 api;4. 平缓的学习曲线。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

4361

2024.04.10

thinkphp性能怎么样
thinkphp性能怎么样

thinkphp 是一款高性能的 php 框架,具备缓存机制、代码优化、并行处理和数据库优化等优势。官方性能测试显示,它每秒可处理超过 10,000 个请求,实际应用中被广泛用于京东商城、携程网等大型网站和企业系统。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1400

2024.04.10

ThinkPHP6后台管理系统开发与RBAC权限控制实践
ThinkPHP6后台管理系统开发与RBAC权限控制实践

本专题围绕 ThinkPHP6 在后台管理系统开发中的应用展开,重点讲解基于 RBAC 模型的权限控制实现方案。内容涵盖管理员角色设计、菜单权限分配、接口鉴权、中间件拦截机制以及后台模块化开发思路。同时结合实际案例,讲解如何构建完整的后台管理系统,包括用户管理、权限管理与操作日志记录,帮助开发者搭建安全、可扩展的企业级后台系统。

623

2026.03.20

ThinkPHP API接口开发与前后端分离实战
ThinkPHP API接口开发与前后端分离实战

本专题围绕ThinkPHP在前后端分离项目中的 API 开发展开,系统讲解 RESTful 接口设计规范、统一返回结构、参数验证与异常处理机制。内容涵盖 Token 鉴权、跨域处理、接口版本管理以及接口文档生成方案。通过完整项目案例,帮助开发者构建规范、高效、易维护的后端接口服务体系。

384

2026.03.20

ThinkPHP ORM模型关系与数据库操作优化实践
ThinkPHP ORM模型关系与数据库操作优化实践

本专题聚焦ThinkPHP中 ORM 模型的高级用法与数据库操作优化技巧。内容包括一对一、一对多、多对多关系定义与使用、关联预加载、查询构建器优化以及复杂查询封装方法。同时结合实际业务场景,讲解如何避免 N+1 查询问题、提升数据库访问效率,帮助开发者编写高性能的数据访问层代码。

259

2026.03.20

ThinkPHP模型详解
ThinkPHP模型详解

本专题整合了ThinkPHP模型相关内容,阅读专题下面的文章了解更多详细介绍。

278

2026.03.26

ThinkPHP表单验证与数据安全处理实战
ThinkPHP表单验证与数据安全处理实战

本专题聚焦 ThinkPHP 在表单处理中的验证与安全机制,系统讲解验证器使用、自定义规则、场景验证以及错误提示处理。内容涵盖 XSS 防护、SQL 注入防御、数据过滤与输入校验等关键安全措施。通过实际案例,帮助开发者构建安全可靠的数据处理流程。

241

2026.03.30

ThinkPHP日志系统设计与异常监控实践
ThinkPHP日志系统设计与异常监控实践

本专题围绕 ThinkPHP 日志系统展开,深入讲解日志记录机制、日志级别划分、日志文件管理以及自定义日志通道配置。内容涵盖异常捕获、错误追踪、调试信息输出以及日志分析方法。通过实战讲解,帮助开发者提升系统问题定位能力与运维效率。

468

2026.03.30

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn