讲师中心 微信公众号
AI工具推荐 视频效率加速

Java 消息队列传输大数据怎么避免内存溢出

秋枫小哥_7533

秋枫小哥_7533

发布时间:2026-09-02 12:06:08

|

685人浏览过

|

来源于php中文网

原创

Java消息队列传输大数据时OOM主因是客户端或服务端不当全量加载消息至堆内存;须禁用Spring MVC等框架的默认全量读取机制,改用流式解析、分片上传、外部存储解耦及轻量通知模式。

java 消息队列传输大数据怎么避免内存溢出

Java 消息队列传输大数据时,内存溢出(OOM)通常不是消息队列本身直接导致的,而是客户端或服务端在处理大消息时不当加载、缓存或反序列化所致。关键在于:**避免一次性将整条大数据消息全量读入 JVM 堆内存**。

禁用默认全量读取机制

Spring MVC 等 Web 框架默认会把整个请求体(如 @RequestBody byte[])加载进内存,1GB 文件直接触发 OOM。必须绕过该机制:

  • 使用 @RequestPart + MultipartFile 接收文件上传,底层基于流式解析,不缓存全部内容到堆中
  • 若需传输结构化大数据(如 JSON 数组),改用流式解析器(如 Jackson 的 JsonParser 或 Gson 的 JsonReader),逐段读取、处理、丢弃
  • 禁用 Spring Boot 的 spring.servlet.context-parameters.max-file-size 和 max-request-size 的宽松配置,强制前端分片上传

消息队列侧控制单条消息大小

Kafka、RocketMQ 等主流队列默认限制单条消息体积(Kafka 默认 1MB),超限会被拒绝。这不是限制,而是保护策略:

  • Kafka:调大 message.max.bytes(Broker)和 max.request.size(Producer),但建议不超过 10MB;更大的数据应存对象存储(如 MinIO/S3),消息中仅传 URL 和元数据
  • RocketMQ:通过 maxMessageSize 配置,同样推荐 ≤10MB;支持自动分片与合并,但需客户端自行实现,复杂度高
  • 切忌把 GB 级原始数据塞进 MQ —— 它是“信封”,不是“集装箱”

客户端采用流式消费与异步落盘

消费者拿到大消息后,仍可能因反序列化或临时组装而 OOM:

deep-java-review
deep-java-review

Java项目代码review工具。分析Git变更+完整调用链路上下文,推断业务需求,进行多维度评分和分类汇总,生成完整PRD文档。包含细粒度Java代码审查清单(Null安全、异常处理、Streams、并发、equals/hashCode、资源管理、API设计、性能、MyBatis/ORM、事务边界、SQL/DD...

下载

立即学习“Java免费学习笔记(深入)”;

  • 消费端收到消息后,立即写入本地临时文件或对象存储,再异步触发后续处理(如 Flink / Spark 批处理)
  • 使用 Kafka 的 ConsumerRecord.value() 返回的是字节数组引用,避免转成 String 或 JSONObject;需用 InputStream 包装后流式解析
  • 对消息体做哈希校验或字段投影(只取关键字段),跳过完整反序列化

配合外部存储做数据解耦

真正的大数据(GB/TB 级)不应走消息队列主干链路:

  • 生产者将数据写入分布式文件系统(HDFS)、对象存储(S3/MinIO)或时间序列数据库(InfluxDB),生成唯一 ID 或路径
  • 向 Kafka/RocketMQ 发送轻量通知消息(含 ID、schema 版本、校验码、TTL 等),体积控制在 KB 级内
  • 消费者拉取通知后,按需下载真实数据,支持断点续传、多线程下载、内存映射(MappedByteBuffer)等优化

本质不是“怎么让 MQ 传得更大”,而是“让 MQ 只传指挥信号,把重活交给更合适的存储和计算组件”。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

9257

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

6422

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

5732

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1024

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

848

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

1216

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2429

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

19791

2023.08.03

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

180

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn