讲师中心 微信公众号
AI工具推荐 视频效率加速

RocketMQ 底层通信协议与网络模型解析

大婷大大_4788

大婷大大_4788

发布时间:2026-07-18 12:05:20

|

926人浏览过

|

来源于php中文网

原创

RocketMQ底层通信基于自定义Remoting私有协议与Netty主从Reactor模型,通过二进制帧结构、零拷贝、堆外内存池化及Header/Body分离解析等机制实现高吞吐、低延迟与强可靠性。

rocketmq 底层通信协议与网络模型解析

RocketMQ 底层通信基于自定义私有协议 + Netty 网络框架实现,核心目标是兼顾高吞吐、低延迟与强可靠性。它不依赖 HTTP 等通用协议,而是通过精简二进制格式、零拷贝传输和主从 Reactor 模型,在大规模消息场景下保持稳定高性能。

私有 Remoting 协议设计要点

RocketMQ 所有组件(Producer/Broker/Consumer/NameServer)均使用统一的 Remoting 协议通信,该协议是轻量、紧凑的二进制私有协议,结构固定:

  • 帧头固定结构:含 4 字节魔数(用于协议识别)、4 字节总长度、1 字节序列化类型、3 字节 header 长度,再后接 header 和 body;
  • 头部可扩展:header 中包含 requestCode(如 SEND_MESSAGE=10、PULL_MESSAGE=11)、opaque(请求唯一 ID)、flag(是否需要响应)、extFields(键值对,支持版本兼容与功能扩展);
  • 无粘包/半包问题:采用 LengthFieldBasedFrameDecoder 解码器,依据帧头中声明的总长度精准切分,避免遍历或定长浪费;
  • 序列化轻量高效:默认使用 RocketMQ 自研二进制编码(非 JSON/XML),支持快速序列化/反序列化,减少 CPU 和内存开销。

Netty 主从多线程 Reactor 模型

Broker 和 NameServer 的服务端网络层完全基于 Netty 构建,采用经典的主从 Reactor 模式:

  • Boss EventLoopGroup:单线程,仅负责 accept 新连接,建立 Channel 后立即将其注册到 Worker Group;
  • Worker EventLoopGroup:默认线程数为 CPU 核心数 × 2,每个线程绑定一个 Selector,轮询处理已连接 Channel 的 read/write 事件;
  • 业务线程池隔离:IO 事件解析出 RemotingCommand 后,交由独立线程池(serverCallbackExecutorThreads)执行具体逻辑(如消息写入 CommitLog),避免阻塞 IO 线程;
  • 连接复用与长连接:Producer/Consumer/Broker 均与 NameServer 或目标 Broker 维持长连接,心跳保活(Broker 每 30s 上报路由,Producer 每 30s 发送心跳),降低建连开销。

高性能通信关键机制

协议与网络模型之外,RocketMQ 还融合多项底层优化技术:

  • 零拷贝传输:接收时复用 Netty 的 PooledDirectByteBuf,跳过堆内复制;发送大文件(如拉取消息体)时使用 DefaultFileRegion 调用 transferTo(),借助 DMA 直达网卡;
  • 堆外内存池化:通过 PooledByteBufAllocator.DEFAULT 复用 DirectBuffer,显著降低 GC 压力;
  • Header/Body 分离解析:解码时仅解析 header 字段(如 requestCode、opaque),body 可延迟反序列化或直接透传,提升吞吐;
  • 参数精细调优:如 serverSocketRcvBufSizewriteBufferHighWaterMark 设置为 256KB~1MB,避免缓冲区频繁扩容或写堆积。

与 Kafka 网络模型对比参考

不同于 Kafka 的单 Selector + 多 Processor 模型,RocketMQ 的 Netty 主从模式更强调线程职责分离:

  • Kafka 共享 Selector 监听所有连接,IO 和部分解析耦合在同一个线程;
  • RocketMQ 每个 Channel 绑定专属 EventLoop,IO 处理更均匀,连接数增长时扩展性更好;
  • 内存方面,Kafka 使用临时 ByteBuffer 易触发 GC,RocketMQ 则全程池化堆外内存;
  • 实测在 10 万连接场景下,RocketMQ CPU 利用率更平稳,Kafka 容易出现 Selector.select() 阻塞现象。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

417

2023.08.15

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

820

2023.09.08

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2412

2023.09.19

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

816

2023.10.09

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

709

2023.10.17

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

374

2023.10.17

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2156

2023.10.18

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

3972

2023.10.20

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

20

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn