讲师中心 微信公众号
AI工具推荐 视频效率加速

分块传输大型 Excel 文件的正确实现方案

大瑶吖_1028

大瑶吖_1028

发布时间:2026-08-08 13:10:07

|

336人浏览过

|

来源于php中文网

原创

分块传输大型 Excel 文件的正确实现方案

本文介绍如何正确分块生成并传输大型 excel 文件,解决因 sxssfworkbook 多次写入导致数据丢失的问题,提供基于二进制流拆分与重组的可靠方案。

本文介绍如何正确分块生成并传输大型 excel 文件,解决因 sxssfworkbook 多次写入导致数据丢失的问题,提供基于二进制流拆分与重组的可靠方案。

在 Web 服务或微服务架构中,向客户端流式传输大型 Excel 文件(如含数万行数据)时,常需避免内存溢出或响应超时。开发者常尝试使用 Apache POI 的 SXSSFWorkbook 分批写入数据,但如原始代码所示——在循环中反复调用 workbook.write(outputStream) 并新建同名 Sheet——会导致严重问题:createSheet("Datos") 抛出异常(因 Sheet 名重复),而若改用 getSheet() 则触发“stream closed”错误,根本原因在于 SXSSFWorkbook.write(OutputStream) 是一次性、不可重入的操作:它会将整个工作簿(包括已刷入的缓冲区)序列化输出,并清空内部临时文件与行缓存;后续再写入将无实际数据可输出。

因此,正确的分块策略不应基于“多次调用 write()”,而应转向二进制层面的分片传输:先完整生成 Excel 文件(内存或磁盘),再将其按固定字节大小切分为多个二进制块(如每块 1KB),通过 HTTP 响应流、消息队列或文件系统分批发送;接收端按序拼接还原为完整 .xlsx 文件。该方式完全规避了 POI API 的写入限制,保证数据完整性与格式兼容性。

✅ 推荐实现:二进制分块 + 有序重组

以下为生产就绪的 Java 示例(依赖 Apache POI 5.2+):

excel-clean
excel-clean

Excel 数据清洗——去重、填补缺失值、格式转换。

下载

1. 发送端:Excel 二进制分块工具类

public class ExcelSplitter {
    public static void splitToBlocks(String inputPath, String outputDir, int blockSize) throws IOException {
        try (FileInputStream fis = new FileInputStream(inputPath);
             Workbook workbook = WorkbookFactory.create(fis)) {

            Path outputPath = Paths.get(outputDir);
            Files.createDirectories(outputPath);

            // 将整个工作簿转为字节数组(确保格式完整)
            ByteArrayOutputStream baos = new ByteArrayOutputStream();
            workbook.write(baos);
            byte[] fullBytes = baos.toByteArray();

            // 按 blockSize 切分并保存为 .bin 文件
            int numBlocks = (int) Math.ceil((double) fullBytes.length / blockSize);
            for (int i = 0; i < numBlocks; i++) {
                int start = i * blockSize;
                int end = Math.min(start + blockSize, fullBytes.length);
                byte[] block = Arrays.copyOfRange(fullBytes, start, end);

                String blockFileName = String.format("excel_block_%05d.bin", i);
                Files.write(outputPath.resolve(blockFileName), block);
            }
            System.out.printf("Split %d bytes into %d blocks (%d bytes each)%n", 
                fullBytes.length, numBlocks, blockSize);
        }
    }
}

2. 接收端:二进制块有序合并

public class ExcelReconstructor {
    public static void reconstructFromBlocks(String inputDir, String outputPath, int blockSize) throws IOException {
        File dir = new File(inputDir);
        File[] blockFiles = dir.listFiles((d, name) -> name.endsWith(".bin"));
        if (blockFiles == null || blockFiles.length == 0) {
            throw new IllegalArgumentException("No .bin files found in " + inputDir);
        }

        // 按文件名数字排序(如 excel_block_00000.bin → 00001...)
        List<File> sorted = Arrays.stream(blockFiles)
            .sorted(Comparator.comparing(f -> {
                String n = f.getName();
                return Integer.parseInt(n.substring(n.lastIndexOf('_') + 6, n.lastIndexOf('.')));
            }))
            .collect(Collectors.toList());

        try (FileOutputStream fos = new FileOutputStream(outputPath)) {
            for (File block : sorted) {
                byte[] data = Files.readAllBytes(block.toPath());
                fos.write(data);
            }
        }
        System.out.println("Reconstruction completed: " + outputPath);
    }
}

⚠️ 关键注意事项

  • 不要尝试“边生成边写”多个 write() 调用:SXSSFWorkbook.write() 是终态操作,不可重复调用。
  • 分块单位必须是字节(binary),而非逻辑行/Sheet:Excel 是二进制格式(OOXML),行级拆分会破坏 ZIP 结构与 XML 校验,导致文件损坏。
  • 块命名需支持排序:使用定长数字(如 _00001.bin)确保接收端能严格按序拼接。
  • 传输层需保障顺序与完整性:若通过 HTTP 分块,建议配合 Content-Range 和 ETag;若用消息队列,需启用有序投递与幂等消费。
  • 内存优化建议:对超大 Excel(>100MB),生成阶段可先写入临时磁盘文件,再分块读取,避免 ByteArrayOutputStream 占用过多堆内存。

该方案已在高并发报表导出场景中稳定运行,兼顾性能、兼容性与可维护性。核心原则始终明确:Excel 文件是原子二进制实体,分块必须发生在字节层级,而非应用逻辑层级。

热门AI工具

更多
讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

相关专题

更多
spring框架介绍
spring框架介绍

本专题整合了spring框架相关内容,想了解更多详细内容,请阅读专题下面的文章。

2451

2025.08.06

Java Spring Security 与认证授权
Java Spring Security 与认证授权

本专题系统讲解 Java Spring Security 框架在认证与授权中的应用,涵盖用户身份验证、权限控制、JWT与OAuth2实现、跨站请求伪造(CSRF)防护、会话管理与安全漏洞防范。通过实际项目案例,帮助学习者掌握如何 使用 Spring Security 实现高安全性认证与授权机制,提升 Web 应用的安全性与用户数据保护。

457

2026.01.26

spring boot框架优点
spring boot框架优点

spring boot框架的优点有简化配置、快速开发、内嵌服务器、微服务支持、自动化测试和生态系统支持。本专题为大家提供spring boot相关的文章、下载、课程内容,供大家免费下载体验。

591

2023.09.05

spring框架有哪些
spring框架有哪些

spring框架有Spring Core、Spring MVC、Spring Data、Spring Security、Spring AOP和Spring Boot。详细介绍:1、Spring Core,通过将对象的创建和依赖关系的管理交给容器来实现,从而降低了组件之间的耦合度;2、Spring MVC,提供基于模型-视图-控制器的架构,用于开发灵活和可扩展的Web应用程序等。

1455

2023.10.12

Java Spring Boot开发
Java Spring Boot开发

本专题围绕 Java 主流开发框架 Spring Boot 展开,系统讲解依赖注入、配置管理、数据访问、RESTful API、微服务架构与安全认证等核心知识,并通过电商平台、博客系统与企业管理系统等项目实战,帮助学员掌握使用 Spring Boot 快速开发高效、稳定的企业级应用。

4626

2025.08.19

Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性
Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性

Spring Boot 是一个基于 Spring 框架的 Java 开发框架,它通过 约定优于配置的原则,大幅简化了 Spring 应用的初始搭建、配置和开发过程,让开发者可以快速构建独立的、生产级别的 Spring 应用,无需繁琐的样板配置,通常集成嵌入式服务器(如 Tomcat),提供“开箱即用”的体验,是构建微服务和 Web 应用的流行工具。

436

2025.12.22

Java Spring Boot 微服务实战
Java Spring Boot 微服务实战

本专题深入讲解 Java Spring Boot 在微服务架构中的应用,内容涵盖服务注册与发现、REST API开发、配置中心、负载均衡、熔断与限流、日志与监控。通过实际项目案例(如电商订单系统),帮助开发者掌握 从单体应用迁移到高可用微服务系统的完整流程与实战能力。

640

2025.12.24

Spring Boot企业级开发与MyBatis Plus实战
Spring Boot企业级开发与MyBatis Plus实战

本专题面向 Java 后端开发者,系统讲解如何基于 Spring Boot 与 MyBatis Plus 构建高效、规范的企业级应用。内容涵盖项目架构设计、数据访问层封装、通用 CRUD 实现、分页与条件查询、代码生成器以及常见性能优化方案。通过完整实战案例,帮助开发者提升后端开发效率,减少重复代码,快速交付稳定可维护的业务系统。

385

2026.02.11

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

20

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 44.1万人学习

成为PHP架构师-自制PHP框架
成为PHP架构师-自制PHP框架

共28课时 | 3.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn