讲师中心 微信公众号
AI工具推荐 视频效率加速

为什么在超高基数统计下Redis HyperLogLog比Set节约海量内存?

陌晨吖_2467

陌晨吖_2467

发布时间:2026-11-01 06:20:38

|

480人浏览过

|

来源于php中文网

原创

HyperLogLog固定12KB内存,而Set内存随元素数线性增长;HLL通过16384个6位桶记录前导零最大值实现常数空间,Set则需完整存储每个元素,亿级UV下HLL仅耗12KB,Set却需GB级内存。

为什么在超高基数统计下redis hyperloglog比set节约海量内存?

HyperLogLog 固定 12KB 和 Set 的 O(N) 内存增长对比

因为 HyperLogLog 不存原始数据,只维护一个由 16384 个桶组成的概率摘要结构,每个桶用 6 位(bit)记录前导零最大值,总内存恒为 16384 × 6 ÷ 8 = 12KB。而 Set 必须完整保存每个去重后的元素:比如用户 ID 是字符串 "uid_123456789"(约 12 字节),1 亿个就要 ≈ 1.2GB;如果是 64 位整数,也需 800MB+。两者根本不在一个数量级。

PFADD 插入时不做元素存储,只做哈希与桶更新

PFADD 的实际行为是:对输入元素做 MurmurHash3 哈希 → 取低 14 位(即 0–16383)定位桶号 → 取高 50 位统计前导零个数 → 若该值大于当前桶记录值,则更新桶。整个过程不分配新字符串、不建 dict entry、不触发 rehash。而 SADD 每次都要在底层字典中插入一个 dictEntry,附带 key 指针、value 指针、next 指针和哈希表扩容开销。

误差可控的前提下,12KB 换来的是线性扩展能力

当你需要按天、按页面、按渠道维度分别统计 UV,且每天新增千万级独立用户时:

redis-tools
redis-tools

按类别查找Redis命令、检测服务器连接、监控键数量和内存占用,支持离线速查表。

下载
  • 用 Set:每个维度一个 key,1000 个维度 × 80MB = 80GB 内存,Redis 实例基本不可行
  • 用 HyperLogLog:每个 key 固定 12KB,1000 个 key 仅 12MB,还能用 PFMERGE 合并任意维度

这种常数空间特性,使得横向分片(如按日期分 key:uv:20261020:home、uv:20261020:search)在内存层面完全无压力。

别忽略 PFMERGE 的合并代价是零拷贝

PFMERGE destkey src1 src2 ... 不是把所有源 key 的元素拉出来再塞进 dest,而是直接对各源的 16384 个桶取最大值,逐桶合并。10 个 HLL 合并仍只产生一个 12KB 结构。而如果用 Set 做类似操作,SUNIONSTORE 需要先读取全部源集合、去重、再写入新 dict,内存峰值可能翻倍,耗时随元素总数线性增长。

真正容易被忽略的点是:HLL 的 12KB 是硬上限,但它的误差不是均匀分布——当基数小于 1000 时,PFCOUNT 返回值可能跳变(因桶稀疏导致估计抖动);业务上若需平滑展示,得加一层小基数兜底逻辑,比如自动 fallback 到 SCARD 或采样校准。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4729

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4295

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8152

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

663

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8282

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1180

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1276

2024.04.07

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

60

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn