讲师中心 微信公众号
AI工具推荐 视频效率加速

Redis中如何评估Set集合的内存消耗情况?

小磊小哥_8967

小磊小哥_8967

发布时间:2026-07-20 08:25:19

|

196人浏览过

|

来源于php中文网

原创

MEMORY USAGE 返回的是估算值而非真实内存占用,因其不包含 jemalloc 实际分配块、哈希表空桶及 dict 结构开销;实测 1000 万 MD5 字符串 set 中,它比 used_memory 少约 300 MB。

redis中如何评估set集合的内存消耗情况?

直接用 MEMORY USAGE 命令就能拿到真实值,但光看这个数字容易误判——它不区分底层编码、不反映哈希表负载因子、也不告诉你 jemalloc 实际分配了多少内存块。

为什么 MEMORY USAGE 返回的值不能直接当“真实占用”用

Redis 的 MEMORY USAGE 返回的是估算值,基于 key 的 redisObject + 底层数据结构的粗略计算,不包含:

  • jemalloc 实际分配的内存块(比如你存一个 12 字节字符串,jemalloc 可能分配 16 或 32 字节)
  • 哈希表的空桶(bucket 数量是 ≥ 元素数的最小 2^n,1 亿元素可能对应 134,217,728 个 bucket)
  • dict 结构本身的固定开销(如 dict 对象本身占 96 字节,两个哈希表指针各 8 字节)

实测:一个含 1000 万 32 字符 MD5 字符串的 set,MEMORY USAGE 返回约 1.2 GB,而 INFO memory 中 used_memory 增量接近 1.5 GB——差的那 300 MB 就是 jemalloc 和 dict 结构吃掉的。

怎么判断 set 当前用的是 intset 还是 hashtable

运行 DEBUG OBJECT key_name,看返回里的 encoding 字段:

  • 返回 encoding:intset → 所有元素是整数且 ≤ set-max-intset-entries(默认 512)
  • 返回 encoding:hashtable → 已转为哈希表,这是绝大多数业务场景的真实状态

注意:intset 内存极紧凑(纯整数数组),但一旦插入一个非整数或超限,整个结构会一次性复制迁移成 hashtable,瞬间翻倍内存 —— 这个过程在大 key 上可能触发 OOM。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

估算 1 亿条字符串 set 的内存时必须带入的参数

按 hashtable 编码(即生产环境最常见情况),关键项有:

  • 每个元素平均长度(比如 32 字节 MD5 字符串)
  • redisObject 开销:16 字节(固定)
  • SDS 开销:元素长度 + 9 字节(len + alloc + null terminator),再向上对齐到 jemalloc 的 chunk 边界(如 32→32,33→40→48)
  • dictEntry 开销:每个元素对应一个 dictEntry,含 3 个指针(24 字节),jemalloc 分配 32 字节
  • 哈希表 bucket 数量:≥ 元素数的最小 2^n(1 亿 → 134,217,728 个 bucket,每个 bucket 是 8 字节指针 → 约 1.02 GB)

粗略公式:total ≈ (16 + SDS_size + 32) × N + 8 × bucket_count。N=1e8、元素长 32 字节时,SDS_size≈48(32+9=41→对齐到 48),结果约 6.8–7.2 GB —— 和实测值吻合(见 2023 年爬虫去重测试)。

线上大 set 必须监控的三个指标

别只盯着 MEMORY USAGE,这三个更关键:

  • redis-cli --bigkeys 输出的 set 大小和元素数(确认是否真大)
  • INFO memory 中的 mem_allocator:jemalloc 和 used_memory_dataset(排除元数据干扰)
  • INFO stats 中的 evicted_keys 和 expired_keys(如果开始驱逐,说明内存压力已传导到业务)

真正麻烦的不是“占多少”,而是“增长是否不可控”:比如用户标签系统每天新增 500 万,但没清理过期标签,半年后 key 持续膨胀,这时 MEMORY USAGE 只是个快照,背后是数据生命周期管理缺失。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4369

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3875

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7072

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

623

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

756

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6782

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1160

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1056

2024.04.07

C++虚函数怎么定义和调用
C++虚函数怎么定义和调用

C++虚函数是实现运行时多态的重要机制。本专题从virtual关键字的基本用法入手,介绍基类与派生类之间的函数重写、基类指针调用派生类方法,以及动态绑定的执行过程,帮助初学者掌握虚函数的核心语法。

0

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn