讲师中心 微信公众号
AI工具推荐 视频效率加速

如何设计百万级QPS高并发下的Redis集群架构方案

秋浩吖_3351

秋浩吖_3351

发布时间:2026-09-23 09:24:23

|

713人浏览过

|

来源于php中文网

原创

Redis Cluster在百万QPS下易失稳,因其Gossip协议通信开销随节点数超线性增长,导致带宽和CPU被“互相寒暄”占用;热点Key引发流量倾斜,Slot分片粒度固定加剧负载不均;建议主节点控制在12~24个以内,并采用本地缓存+Proxy预分片+Cluster分层卸压架构。

如何设计百万级qps高并发下的redis集群架构方案

百万级 QPS 下,直接上 Redis Cluster 往往是错的起点——它不是不能扛,而是容易在 200+ 节点、热点 Key、Gossip 带宽饱和后突然失稳。

为什么 Redis Cluster 在百万 QPS 下会“吵起来”

Redis Cluster 的节点间通信靠 Gossip 协议,每个节点每秒随机发 PING 给若干节点,携带当前已知的集群拓扑(含所有 Slot 映射)。当节点数从 50 扩到 300,单条 PING 消息体积翻倍,消息总量呈超线性增长。你看到的 MOVED 重定向增多、CLUSTER NODES 响应变慢、部分分片 CPU 持续 95%,往往不是业务压力大,而是节点在“互相寒暄”占用了 30%+ 网络带宽和 CPU。

这不是配置问题,是协议设计边界。16384 个 Slot 的分片粒度,在热点商品 ID 或用户 session key 集中时,天然导致流量倾斜——某个主节点扛着 80% 请求,其他节点空转。

  • 集群规模建议严格控制在 12~24 个主节点以内,再往上扩容收益断崖下跌
  • 避免用 user:12345 这类连续数字 ID 作为 Key,否则 CRC16 取模后极易扎堆到同一 Slot
  • 不要依赖客户端自动重试 MOVED,生产环境必须用支持集群拓扑缓存的客户端(如 JedisCluster、Lettuce),且开启 refreshPeriod 主动轮询而非被动重定向

真正扛住百万 QPS 的三层缓冲结构

纯靠 Redis Cluster 横向堆节点是下策。有效方案是分层卸压:本地缓存挡掉 60%+ 热点读,Proxy 层做请求聚合与预分片,Redis Cluster 只承载最终不可绕过的原子写操作。

例如秒杀场景中:GET stock:1001 不直连 Redis,而是先查 Caffeine 本地缓存;未命中再走 Proxy;Proxy 收到 1000 个相同 stock:1001 请求,合并为 1 次 Lua 脚本调用,返回后广播更新本地缓存。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 本地缓存 TTL 设为 10s 左右,避免一致性失控,但足够覆盖大部分重复请求
  • Proxy 层必须实现 Key 预分片逻辑(如对 stock:{id} 中的 id 再哈希一次),打散原生 CRC16 的热点倾向
  • Redis Cluster 本身只存必要字段:库存值、用户购买标识、订单 token,不做任何业务逻辑计算

Lua 脚本 + Pipeline 是唯一能保原子性的组合

高并发下,GET + DECR + SET 三步必然竞态。必须用 Lua 封装成单次原子执行,且必须搭配 Pipeline 批量提交——否则单个 Lua 调用仍要等 RTT,QPS 上不去。

示例(Jedis):

String script = "local stock = redis.call('GET', KEYS[1]) if tonumber(stock) > 0 then redis.call('DECR', KEYS[1]); return 1 else return 0 end";
List<String> keys = Arrays.asList("stock:1001");
// 注意:这里不是单次 eval,而是 pipeline 包裹
Pipeline p = jedis.pipelined();
p.eval(script, keys, Collections.emptyList());
p.syncAndReturnAll(); // 一批执行,网络开销摊薄
  • 脚本内禁止调用 redis.call('KEYS', ...)redis.call('SCAN', ...),会阻塞整个事件循环
  • 脚本长度控制在 1KB 以内,过长会导致 cluster bus 消息膨胀,加剧 Gossip 压力
  • 所有 Lua 脚本必须提前 EVALSHA 注册,避免每次传输完整脚本体

集群故障时最易被忽略的降级开关

当某主节点宕机、从节点升主过程中,CLUSTERDOWN 错误会批量出现。此时若业务代码只是重试或抛异常,整个服务就雪崩了。

必须在客户端埋入可动态开关的降级策略:

  • 配置中心下发 redis.cluster.fallback.enabled=true,触发后自动切到只读本地缓存 + 异步写 DB
  • 对非核心字段(如商品描述、图片 URL)允许 cache miss 后直接回源 DB,不强依赖 Redis
  • 监控 redis_cluster_down_total 指标,超过阈值自动熔断写路径,防止故障扩散

真正的难点从来不在怎么搭集群,而在节点开始“吵架”、Slot 迁移卡住、某个分片 CPU 爆表时,你的系统是否还知道该怎么呼吸。

热门AI工具

更多
Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4009

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3515

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6252

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

583

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

696

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

5662

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1120

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

916

2024.04.07

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

0

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn