讲师中心 微信公众号
AI工具推荐 视频效率加速

如何优化Redis HyperLogLog的内存分配_了解密集存储与稀疏存储转换

酷伟小哥_3435

酷伟小哥_3435

发布时间:2026-06-17 08:04:08

|

566人浏览过

|

来源于php中文网

原创

Redis HyperLogLog在稀疏存储字节数超约3000字节或基数达约16000时自动转为密集存储,转换单向不可逆,固定占用12KB内存。

如何优化redis hyperloglog的内存分配_了解密集存储与稀疏存储转换

稀疏存储什么时候会自动转成密集存储

Redis 的 HYPERLOGLOG 默认在基数达到 16000 时触发从稀疏(sparse)到密集(dense)的转换。这个阈值不是硬编码在客户端,而是由 Redis 服务端控制的——你无法通过配置项直接修改它,但可以通过 DEBUG OBJECT key 观察当前存储类型是否已切换。

常见错误现象是:明明只加了几百个元素,MEMORY USAGE 却突然跳到 12KB 左右。这往往不是 bug,而是稀疏结构内部因插入顺序、哈希分布不均,提前触发了“稀疏膨胀”,导致 Redis 主动升级为密集模式。

  • 稀疏模式下,连续零值桶用 RLE(Run-Length Encoding)压缩,比如 00000000 可能只存为 0x80(表示 8 个零)
  • 一旦稀疏编码占用字节数超过某个隐含上限(约 3000 字节),Redis 就会强制转为固定 12KB 的密集格式
  • 转换是单向的:密集 → 不会退回稀疏;哪怕后续所有元素都被 PFADD 重复插入(无实际更新),也不会降级

为什么 PFADD 返回 0 后 MEMORY USAGE 还变大了

这是容易被忽略的关键点:PFADD 虽然返回 0 表示“无新元素加入”,但它仍可能触发内部重编码。例如,当稀疏结构因新增元素导致 RLE 编码效率下降(如零值段被打断),Redis 会在本次操作中完成向密集格式的迁移。

验证方式很简单:

127.0.0.1:6379> PFADD hll a b c
(integer) 1
127.0.0.1:6379> MEMORY USAGE hll
(integer) 240
127.0.0.1:6379> PFADD hll d e f g ... # 插入足够多元素直到触发转换
127.0.0.1:6379> MEMORY USAGE hll
(integer) 12288

注意:即使某次 PFADD 返回 0,只要它参与了重编码流程,MEMORY USAGE 就可能跃升。这不是数据写入,而是结构优化的副作用。

密集存储的 12KB 是怎么算出来的

密集模式本质是一个含 16384 个桶(register)的数组,每个桶用 6 位(bit)存储,总 bit 数 = 16384 × 6 = 98304 bit ≈ 12KB。但要注意:这 12KB 是对齐后的内存块大小,实际有效数据仍是那 98304 位。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

由于 6 位不整除 8,Redis 必须做位运算访问单个桶,比如读取第 pos 个桶时:

  • 计算所在字节偏移:b0 = (6 * pos) / 8
  • 计算右移位数:fb = (6 * pos) % 8
  • 从 b0 和 b0+1 两个字节中拼出 6 位值,再与 0x3f(即 111111)做 AND

这种设计牺牲了随机访问速度,换来极致空间压缩——但你几乎不需要手动操作这些位,PFCOUNT 和 PFMERGE 全部封装好了。

想省内存?别依赖“等它自动转”,要主动控制

如果你明确知道日活量级长期低于 5000,又极度敏感于内存抖动,就不要把多个业务共用一个 HLL key。因为合并(PFMERGE)或跨 key 统计(PFCOUNT key1 key2)会强制创建临时密集结构,哪怕源 key 都还是稀疏的。

更稳妥的做法:

  • 按业务维度拆分 key,比如 hll:page:home:20260527、hll:page:profile:20260527
  • 避免用 PFCOUNT 多 key 模式做日常统计,改用单 key + 定期 PFMERGE 到汇总 key
  • 监控 DEBUG OBJECT hll_key 输出中的 encoding 字段:值为 raw 表示稀疏,quicklist 或其他则说明已是密集(不同 Redis 版本字段名略有差异)

真正难处理的从来不是“怎么转”,而是“转完不能退”——一旦进入密集模式,12KB 就锁死了,哪怕之后半年只加一个新用户。

热门AI工具

更多
超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4289

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3775

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6832

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

623

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

736

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6442

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1140

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1016

2024.04.07

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn