讲师中心 微信公众号
AI工具推荐 视频效率加速

怎么在Redis 5.0中利用Stream降低发布订阅的内存占用

云墨大大_4168

云墨大大_4168

发布时间:2026-11-03 06:25:31

|

656人浏览过

|

来源于php中文网

原创

Stream更省内存,因其采用拉模型共享存储、listpack+radix tree压缩、避免为每个消费者复制缓冲区,而Pub/Sub推模型需为慢消费者独占缓冲区且消息不落地。

怎么在redis 5.0中利用stream降低发布订阅的内存占用

为什么Stream能比Pub/Sub更省内存

Pub/Sub 的内存压力主要来自三块:每个订阅连接独占的 client-output-buffer-limit pubsub 缓冲区、频道名在 pubsub_channels 字典里的重复存储、以及消息完全不落地导致的“只能靠消费速度硬扛”。而 Stream 把消息写进键值对,用 listpack + radix tree 压缩存储,同一份消息被多个消费者读取时共享底层数据,不为每个连接复制一份缓冲区。

关键区别在于:Pub/Sub 是“推模型”,服务端必须为每个慢消费者维持独立输出队列;Stream 是“拉模型”,消费者自己决定读哪条、读多快,服务端只存一份原始数据。

迁移时必须改掉的 Pub/Sub 习惯

直接把 SUBSCRIBE 换成 XREADGROUP 不行,语义完全不同。常见踩坑点:

  • 别再用 PUBLISH channel message —— 改用 XADD stream_key * field value,注意 * 自动生成 ID,不要手拼时间戳
  • 别让每个服务都 XREAD 同一个 stream —— 应创建独立 consumer group:XGROUP CREATE stream_name group_name $ MKSTREAM,否则无法追踪各自消费位点
  • 别忽略 XPENDING —— 消费失败的消息会卡在 pending list,不手动 XACK 或 XCLAIM 就一直占内存
  • 别以为 Stream 没有缓冲区 —— client-output-buffer-limit normal 仍适用,但影响的是命令响应缓冲,不是消息体本身

Stream 内存可控的关键配置项

Stream 本身不依赖 client-output-buffer-limit pubsub,但仍有三个地方必须设限:

Sentinal Redis
Sentinal Redis

监控Redis服务器健康状况、内存、性能及BullMQ队列。检查队列深度、失败任务,分析慢查询并诊断问题。

下载
  • stream-node-max-bytes(默认 4096):控制每个 radix tree 节点最大字节数,调小可减少碎片,但过小会增加节点数和指针开销;物联网设备状态类小消息建议保持默认
  • stream-node-max-entries(默认 100):单个 listpack 最多存几条消息,调大能提升顺序读性能,但会拖慢 XTRIM 和内存释放;高频短消息场景可设为 500
  • XTRIM stream_name MAXLEN ~ 10000:必须显式执行,否则 stream 无限增长;~ 表示近似裁剪,比精确 MAXLEN 更轻量

注意:CONFIG SET stream-node-max-bytes 2048 是动态生效的,但 XTRIM 必须在业务代码里定时触发,不能只靠配置。

上线前必须验证的内存拐点

Stream 看似省内存,但错误用法反而更耗:比如用一个 stream 存所有业务事件(订单、支付、日志混在一起),会导致 radix tree 前缀熵值高、压缩率暴跌;或者 consumer group 过多且长期不消费,pending list 积压消息 ID 占用额外内存。

上线前跑个真实压测:

  • 用 MEMORY USAGE stream_name 查单个 stream 实际开销,对比同等消息量的 Pub/Sub CLIENT LIST 中所有 omem 总和
  • 用 XINFO GROUPS stream_name 看各 group 的 pel-count(pending 数),>100 就要检查消费逻辑是否卡在外部 I/O
  • 用 INFO memory | grep used_memory_human 观察整体内存曲线,特别注意 stream 写入后是否出现非线性上涨——那大概率是 listpack 分裂或 pending list 膨胀

最易被忽略的是:Stream 的消息 ID 是字符串,如果用 XADD key 1672531200000-0 field value 手动指定毫秒时间戳,比自动生成的 1672531200000-1 多占 3–5 字节/条,亿级消息就是几十 MB 差异。

热门AI工具

更多
Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4769

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4335

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8272

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

663

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8442

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1180

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1316

2024.04.07

Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

20

2026.11.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn