讲师中心 微信公众号
AI工具推荐 视频效率加速

如何优化 Laravel Excel 大文件导入的内存与性能问题

小瑶大大_7202

小瑶大大_7202

发布时间:2026-04-29 20:26:03

|

912人浏览过

|

来源于php中文网

原创

如何优化 Laravel Excel 大文件导入的内存与性能问题

Laravel 使用 PhpSpreadsheet 导入超大 Excel 文件(如 100MB+、40万+ 行)时极易引发内存暴涨(甚至达 40GB),本文提供可落地的分片读取、队列批处理与架构级优化方案。

laravel 使用 phpspreadsheet 导入超大 excel 文件(如 100mb+、40万+ 行)时极易引发内存暴涨(甚至达 40gb),本文提供可落地的分片读取、队列批处理与架构级优化方案。

在 Laravel 中通过 maatwebsite/excel(基于 PhpSpreadsheet)直接读取大型 Excel 文件时,其默认行为会将整个工作表加载进内存——包括所有单元格、样式、公式和元数据。即使仅需提取纯数据,PhpSpreadsheet 仍需解析完整 DOM 结构,导致内存占用呈线性甚至指数级增长。当单个 Job 处理 40 万行时,PHP 进程常突破 32GB 内存限制,远超常规服务器承载能力。

✅ 核心解决方案:避免「全量加载」,转向「流式分片读取」
Laravel Excel 自 v3.1 起原生支持 WithChunkReading 和 WithBatchInserts,配合 ToModel 或 ToArray,可实现低内存、高吞吐的数据导入:

<?php

namespace App\Imports;

use App\Models\User;
use Maatwebsite\Excel\Concerns\ToModel;
use Maatwebsite\Excel\Concerns\WithChunkReading;
use Maatwebsite\Excel\Concerns\WithBatchInserts;

class UsersImport implements ToModel, WithChunkReading, WithBatchInserts
{
    public function model(array $row)
    {
        return new User([
            'name' => $row[0],
            'email' => $row[1],
            'phone' => $row[2] ?? null,
        ]);
    }

    // 每次读取 1000 行(可根据内存压力调整:500/2000/5000)
    public function chunkSize(): int
    {
        return 1000;
    }

    // 每次批量插入 1000 条(减少 DB 事务开销)
    public function batchSize(): int
    {
        return 1000;
    }
}

调用时务必使用 queue() 而非 import(),确保任务进入队列而非同步执行:

// ✅ 正确:交由队列异步处理
Excel::queueImport(new UsersImport, storage_path('app/large-users.xlsx'), 'local');

// ❌ 错误:同步执行,阻塞主线程且无法限流
Excel::import(new UsersImport, 'large-users.xlsx');

? 进阶优化建议:

Excel公式大师(兼容WPS)
Excel公式大师(兼容WPS)

Excel/WPS 公式大师。用大白话描述需求,直接给出可用的公式、函数组合和数据处理方案,并解释每一段的作用。当用户提到"Excel 公式"、"表格函数"、"VLOOKUP 怎么用"、"XLOOKUP"、"LET"、"LAMBDA"、"动态数组"、"这个公式报错了"、"#N/A"、"#REF!"、"

下载
  • 启用 OnlySheets 和 WithStartRow:跳过标题行与无关工作表,减少解析负担;
  • 禁用样式与公式:在 config/excel.php 中设置 'csv' => ['delimiter' => ','] 并优先转存为 CSV(若源数据允许),或使用 WithCustomValueBinder 跳过格式解析;
  • 配置队列消费参数:在 Supervisor 中限制单进程内存上限(--memory=2048)并启用 --tries=3 --timeout=3600 防止长任务卡死;
  • 拆分文件预处理:对原始超大 Excel,可用 Python(openpyxl 流式切片)或 CLI 工具(如 ssconvert)预先分割为多个 ≤10MB 的子文件,再并行投递至不同队列;
  • 微服务解耦(高阶):将导入逻辑抽离为独立 Go/Python 服务,通过 Redis Queue 或 RabbitMQ 通信,利用更省内存的语言处理 IO 密集型任务。

⚠️ 关键注意事项:

  • 不要依赖 ini_set('memory_limit', '-1') —— 它掩盖问题而非解决问题;
  • WithChunkReading 仅对 .xlsx/.xls 有效,.csv 推荐直接使用 fgetcsv() 流式读取;
  • 确保数据库连接池与事务粒度匹配 chunk size,避免锁表或连接耗尽;
  • 始终在 staging 环境用 php -d memory_limit=2G artisan queue:work --once 压测单任务内存峰值。

最终,没有“银弹”方案——需结合数据规模、服务器资源、SLA 要求进行权衡。推荐路径:先启用 Chunk + Batch → 监控内存/耗时 → 必要时引入文件预分片 → 架构升级为微服务。持续观测 Telescope 中的内存轨迹与队列延迟,才是可持续优化的起点。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

12164

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

6961

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2215

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

4428

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

5134

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

4031

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5837

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4582

2023.11.13

Docker Desktop怎么设置端口映射
Docker Desktop怎么设置端口映射

本专题聚焦Docker Desktop容器端口映射与访问配置,整理从创建容器、设置端口绑定到验证本地服务访问的操作流程。针对端口被占用、映射配置错误、容器服务无法访问等情况,也提供相应的检查方向,方便用户完成端口配置。

0

2026.11.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 45.2万人学习

成为PHP架构师-自制PHP框架
成为PHP架构师-自制PHP框架

共28课时 | 3.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn