讲师中心 微信公众号
AI工具推荐 视频效率加速

Redis集群数据倾斜怎么解决_通过优化Hash Tag配置实现数据均匀分布

千墨同学_5339

千墨同学_5339

发布时间:2026-05-07 06:27:26

|

713人浏览过

|

来源于php中文网

原创

Hash Tag会导致数据倾斜,因为Redis集群仅对{}内内容计算CRC,使相同tag的key全落入同一slot;如user:{1001}:profile与user:{1001}:settings均落在同一节点,造成单点负载过高。

redis集群数据倾斜怎么解决_通过优化hash tag配置实现数据均匀分布

为什么 Hash Tag 会导致数据倾斜

Redis 集群用 CRC16(key) % 16384 算出 slot,但只要 key 里含 {...},就只对花括号内内容做 CRC 计算。如果业务大量使用类似 user:{1001}:profile、user:{1001}:settings 这种结构,所有以 {1001} 为 tag 的 key 全部落到同一个 slot,进而打到同一节点——哪怕你有 6 个 master,1001 用户相关的所有数据都挤在一台机器上。

更麻烦的是,tag 内容离散度差(比如固定前缀 + 自增 ID),或业务误用 {common} 这类全局 tag,会直接让成千上万个 key 堆进一个 slot。

如何定位哪些 tag 在搞鬼

先确认是否真由 tag 引发倾斜:用 redis-cli -c -h {host} -p {port} cluster countkeysinslot {slot} 扫描 slot 键数,找出明显高于平均值(比如 > 5 倍)的 slot;再用 cluster getkeysinslot {slot} 100 拉一批 key 出来,肉眼观察共性。

常见危险模式包括:

redis-tools
redis-tools

按类别查找Redis命令、检测服务器连接、监控键数量和内存占用,支持离线速查表。

下载
  • order:{202404}:list(月粒度 tag,当月所有订单全进一个 slot)
  • cache:{global}(硬编码统一 tag)
  • log:{error}(错误日志全走一个 tag)
  • user:{1}:xxx、user:{2}:xxx…但 {1} 到 {100} 都是热用户,且没做分片扩展

改写 tag 的三个实操原则

不是删掉 {} 就行,得保证新 key 仍能被业务逻辑正确识别和聚合。推荐做法:

  • 把高基数字段放进 tag,比如把 user:{uid}:orders 改成 user:{uid % 100}:orders:{uid},用取模制造 100 个子槽位
  • 用业务自然分片字段替代硬编码,比如订单 key 从 order:{202404} 改为 order:{shard_id}:202404{seq},其中 shard_id 来自订单号哈希或用户 ID 分段
  • 对已存在的热 tag key,不要直接 rename,而是双写过渡:新逻辑写带分散 tag 的 key,读逻辑先查新 key,未命中再查旧 key,灰度完成后下线旧路径

注意:redis-cli --bigkeys 只能发现大 key,不能暴露 tag 倾斜;必须结合 countkeysinslot + 抽样分析才能准确定位。

上线前必须验证的两件事

改完 tag 后别急着全量,先做两件事验证分布效果:

  • 用线上流量镜像或构造等比例测试数据,跑一遍新 key 生成逻辑,统计生成的 slot 分布(可用 python -c "print(crc16('key') % 16384)" 快速验证)
  • 在预发集群中部署新逻辑,用 redis-cli -c cluster info 观察各节点 keys 数是否收敛到 ±5% 以内,同时检查 memory_used_human 是否同步均衡

最容易被忽略的是:客户端 SDK 如果缓存了 slot 映射关系(比如 JedisCluster 的 refreshNodeInfo 默认不自动触发),改 key 规则后可能仍按旧映射路由,导致请求错发——务必确认客户端已刷新槽映射或重启连接池。

热门AI工具

更多
PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4689

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4235

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8012

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

663

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8102

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1180

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1216

2024.04.07

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

40

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn