讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Redis发布订阅中处理大Key消息引起的瞬时阻塞

梦婷君_1302

梦婷君_1302

发布时间:2026-09-20 08:15:27

|

142人浏览过

|

来源于php中文网

原创

必须在反序列化前拦截:禁用decode_responses=False,收到消息后立即检查len(data),超100KB则丢弃并告警,避免内存分配导致卡死。

如何在redis发布订阅中处理大key消息引起的瞬时阻塞

订阅端收到大消息后卡死,怎么快速跳过

Python 的 redis-py 默认会把 message["data"] 自动解码为字符串,哪怕你只打算丢弃它,UTF-8 解析和内存分配也已发生。卡顿不是因为“处理慢”,而是因为“已经分配了 1MB 对象却还没来得及判断要不要丢”。

必须在反序列化前做长度拦截,且禁用自动解码:

  • 初始化连接时加 decode_responses=False:避免无意义的字符串转换开销
  • pubsub.listen() 循环里,先检查 len(message["data"]),再决定是否继续
  • 阈值建议设为 102400(100KB),超过就 logger.warning("skip oversized msg") + continue
  • 别用 json.loads()pickle.loads() 包裹整个 message["data"] —— 这一步必须放在长度检查之后

Node.js 用 ioredis 订阅时,离线堆积导致 OOM 怎么防

ioredis 默认开启 enableOfflineQueue: true,断网重连期间所有未消费消息会缓存在内存里。一个 500KB 的消息积压 200 条,就是 100MB 内存直接吃掉,GC 都来不及回收。

生产环境必须显式关闭队列缓冲:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 创建客户端时传入 { enableOfflineQueue: false }
  • 同时设 retryStrategy 控制重连行为,避免频繁断连引发反复堆积
  • 配合服务端限流:发布方对 payload 做硬限制,比如 if (Buffer.byteLength(payload) > 102400) throw new Error("too large")
  • 不要依赖客户端兜底——发布端才是第一道防线

为什么不能靠 Redis 服务端参数调大 buffer 来扛大消息

调大 client-output-buffer-limit pubsub 只是延缓崩溃,不是解决问题。一旦消费者处理速度跟不上,buffer 就变成内存黑洞,最终触发 OOM killer 或强制断连。

真实瓶颈不在网络层,而在消费逻辑本身:

  • client-output-buffer-limit pubsub 33554432 20971520 60(32MB/20MB/60s)这类配置治标不治本
  • 真正该做的是:让消费线程不阻塞、不堆积、不等待——用非阻塞轮询 + 显式超时
  • Python 示例:msg = pubsub.get_message(block=False, timeout=0.1),处理单条超 200ms 就丢弃并告警
  • Java Lettuce 推荐用 connection.addListener() 注册回调,而非 BlockingCommand

发布端发了大消息,订阅端已卡住,怎么紧急止损

别等客户端重启。Redis 本身不提供“取消某次 publish”或“清空某频道消息”的能力,但你可以从两个层面快速干预:

  • 立刻在服务端执行 PUBSUB NUMSUB your:channel,确认还有多少活跃订阅者;若为 0,说明问题已扩散到其他链路
  • CLIENT LIST TYPE pubsub 找出卡住的连接 ID,再用 CLIENT KILL ID xxx 主动断开,逼客户端重建连接
  • 临时屏蔽问题频道:在发布方加开关,对 your:channel 直接 return,比修代码更快
  • 最关键是——别让下一条大消息进来。检查上游是否误把文件二进制、日志 dump、全量快照当消息发了

大消息不是“偶尔出错”,而是系统设计漏洞。发布订阅协议本身没有 payload 校验、没有压缩协商、没有分片机制。真有大内容要广播,要么拆成小块带序号重装,要么换用 Kafka / Pulsar 这类专为消息设计的系统——硬撑只会让故障面越来越广。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3969

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3455

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6112

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

583

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

696

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

5462

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1120

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

916

2024.04.07

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

160

2026.09.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn