讲师中心 微信公众号
AI工具推荐 视频效率加速

ThinkPHP后台CLI脚本怎么批量导入数据

冬杰同学_4561

冬杰同学_4561

发布时间:2026-10-24 06:13:22

|

897人浏览过

|

来源于php中文网

原创

ThinkPHP CLI批量导入数据需绕过Web限制、控制内存与事务、确保结构可靠:设set_time_limit(0)、ini_set('memory_limit','-1')、gc_collect_cycles();用PhpSpreadsheet读取并清洗数据,字段映射+类型转换;分批400条+Db::transaction();主键冲突用INSERT IGNORE或ON DUPLICATE KEY UPDATE原生SQL处理。

thinkphp后台cli脚本怎么批量导入数据

ThinkPHP后台CLI脚本批量导入数据,核心是绕过Web请求限制、控制内存与事务、确保数据结构可靠。直接用 Db::insertAll() 配合分批 + 事务 + 清洗,不走模型层,效率最高。

CLI环境必须做的基础设置

脚本开头加三行关键配置:

  • 取消执行时间限制:set_time_limit(0),避免10万条数据中途被中断
  • 放宽内存限制:ini_set('memory_limit', '-1')(或设为‘2G’),防止Excel解析或数据组装时OOM
  • 手动触发垃圾回收:每批插入后调用 gc_collect_cycles(),尤其处理超5万条时能明显稳住内存

Excel读取与数据清洗不能跳过

别把原始Excel数组直接喂给insertAll()——字段错位、空值类型混乱、中文表头和英文字段不匹配,都会导致“Column count doesn’t match value count”报错。

btpanel phpsite 宝塔面板PHP网站
btpanel phpsite 宝塔面板PHP网站

宝塔面板 PHP 网站管理:站点创建、删除、启停、PHP 版本切换、域名管理、SSL证书管理、伪静态管理、数据库管理

下载
  • 用 PhpOffice\PhpSpreadsheet\IOFactory 显式指定格式(如 createReader('Xlsx')),不依赖自动识别
  • 逐行遍历,跳过全空行:if (array_filter($rowData)) { $data[] = $rowData; }
  • 做字段映射:把 Excel 表头(如“创建时间”)转成数据库字段名(如 created_at),再统一塞入时间戳:'created_at' => date('Y-m-d H:i:s')
  • 数值类字段(如状态、是否启用)需强制转整型:(int)$cellValue,避免MySQL报类型不匹配

分批+事务+安全插入的固定写法

单次插入超过400条易触发 max_allowed_packet 错误,且事务长时间不提交会锁表。必须切片并包裹事务:

立即学习“PHP免费学习笔记(深入)”;

  • 用 array_chunk($cleanData, 400) 拆成每批400条
  • 整个流程包在 Db::transaction() 闭包里,异常自动回滚
  • 复用同一个 Db 实例:$db = Db::name('user');,不要在循环里反复调用 Db::name()
  • 每批调用 $db->insertAll($chunk),返回值检查非必需,但建议判断是否为 false 并记录日志

主键冲突和唯一索引怎么处理

insertAll() 不支持 INSERT IGNORE 或 ON DUPLICATE KEY UPDATE,遇到重复就直接报错中断。

  • 若只需跳过重复:改用原生SQL:Db::execute('INSERT IGNORE INTO user (...) VALUES (...), (...)')
  • 若需“存在则更新”:手写带 ON DUPLICATE KEY UPDATE 的语句,用 Db::query() 执行
  • 别在PHP里去重——10万条数据两两比对开销大,且并发下仍可能冲突

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
thinkphp和laravel哪个简单
thinkphp和laravel哪个简单

对于初学者来说,laravel 的入门门槛较低,更易上手,原因包括:1. 更简单的安装和配置;2. 丰富的文档和社区支持;3. 简洁易懂的语法和 api;4. 平缓的学习曲线。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

4341

2024.04.10

thinkphp性能怎么样
thinkphp性能怎么样

thinkphp 是一款高性能的 php 框架,具备缓存机制、代码优化、并行处理和数据库优化等优势。官方性能测试显示,它每秒可处理超过 10,000 个请求,实际应用中被广泛用于京东商城、携程网等大型网站和企业系统。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1400

2024.04.10

ThinkPHP6后台管理系统开发与RBAC权限控制实践
ThinkPHP6后台管理系统开发与RBAC权限控制实践

本专题围绕 ThinkPHP6 在后台管理系统开发中的应用展开,重点讲解基于 RBAC 模型的权限控制实现方案。内容涵盖管理员角色设计、菜单权限分配、接口鉴权、中间件拦截机制以及后台模块化开发思路。同时结合实际案例,讲解如何构建完整的后台管理系统,包括用户管理、权限管理与操作日志记录,帮助开发者搭建安全、可扩展的企业级后台系统。

623

2026.03.20

ThinkPHP API接口开发与前后端分离实战
ThinkPHP API接口开发与前后端分离实战

本专题围绕ThinkPHP在前后端分离项目中的 API 开发展开,系统讲解 RESTful 接口设计规范、统一返回结构、参数验证与异常处理机制。内容涵盖 Token 鉴权、跨域处理、接口版本管理以及接口文档生成方案。通过完整项目案例,帮助开发者构建规范、高效、易维护的后端接口服务体系。

384

2026.03.20

ThinkPHP ORM模型关系与数据库操作优化实践
ThinkPHP ORM模型关系与数据库操作优化实践

本专题聚焦ThinkPHP中 ORM 模型的高级用法与数据库操作优化技巧。内容包括一对一、一对多、多对多关系定义与使用、关联预加载、查询构建器优化以及复杂查询封装方法。同时结合实际业务场景,讲解如何避免 N+1 查询问题、提升数据库访问效率,帮助开发者编写高性能的数据访问层代码。

259

2026.03.20

ThinkPHP模型详解
ThinkPHP模型详解

本专题整合了ThinkPHP模型相关内容,阅读专题下面的文章了解更多详细介绍。

278

2026.03.26

ThinkPHP表单验证与数据安全处理实战
ThinkPHP表单验证与数据安全处理实战

本专题聚焦 ThinkPHP 在表单处理中的验证与安全机制,系统讲解验证器使用、自定义规则、场景验证以及错误提示处理。内容涵盖 XSS 防护、SQL 注入防御、数据过滤与输入校验等关键安全措施。通过实际案例,帮助开发者构建安全可靠的数据处理流程。

241

2026.03.30

ThinkPHP日志系统设计与异常监控实践
ThinkPHP日志系统设计与异常监控实践

本专题围绕 ThinkPHP 日志系统展开,深入讲解日志记录机制、日志级别划分、日志文件管理以及自定义日志通道配置。内容涵盖异常捕获、错误追踪、调试信息输出以及日志分析方法。通过实战讲解,帮助开发者提升系统问题定位能力与运维效率。

468

2026.03.30

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
墨刀帮助中心
墨刀帮助中心

共0课时 | 0人学习

MyEclipse学习中心
MyEclipse学习中心

共0课时 | 0人学习

Apache Subversion 官方手册
Apache Subversion 官方手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn