讲师中心 微信公众号
AI工具推荐 视频效率加速

Redis Hash如何避免大对象压力_利用HSCAN进行分批读写处理

陌涛君_5276

陌涛君_5276

发布时间:2026-06-28 06:58:19

|

842人浏览过

|

来源于php中文网

原创

HGETALL会拖垮Redis,因其一次性加载整个Hash导致内存激增和主线程阻塞;应改用HSCAN分批遍历,配合游标循环、合理COUNT值及断点续扫机制,并优化写入策略避免热key与大Hash叠加。

redis hash如何避免大对象压力_利用hscan进行分批读写处理

为什么直接用HGETALL会拖垮Redis

Redis Hash 本身是高效的数据结构,但一旦某个 key 对应的 field 数量达到几万甚至更多(比如用户标签、设备配置、订单明细聚合),HGETALL 就会变成高危操作:它一次性把整个 hash 全部加载进内存再序列化返回,不仅阻塞当前连接,还会挤占 Redis 主线程处理其他请求的时间,尤其在 RDB/AOF 重写或主从同步期间容易触发超时或 OOM。

常见错误现象包括:

  • redis.clients.jedis.exceptions.JedisConnectionException: java.net.SocketTimeoutException
  • Redis 监控里 instantaneous_ops_per_sec 突降,used_memory_peak_human 骤升
  • 应用端出现大量 READ TIMEOUT,但 Redis 自身 CPU 并不高

这不是数据量大本身的问题,而是操作方式没适配 Hash 的物理存储特性——Redis 的 hash 并不保证 field 有序,也不支持偏移量读取,HGETALL 是唯一“全量拉取”接口,但绝不是“应该用”的接口。

HSCAN 是唯一可行的分批遍历方案

HSCAN 是 Redis 原生命令,基于游标(cursor)实现渐进式遍历,不阻塞主线程,适合大数据量 hash 的扫描、备份、清理等场景。它不要求一次性加载全部数据,每次只返回指定数量的 field-value 对(由 COUNT 参数控制),并返回下一个游标供下一次调用。

关键参数说明:

  • cursor:起始游标,首次传 0,后续用上一次响应中的新游标
  • COUNT:建议设为 100~500,过小导致请求次数过多,过大仍可能引发单次响应体积膨胀
  • MATCH:可选,支持 glob 模式匹配 field 名(如 user:*),但会降低效率,慎用

示例命令:

HSCAN user:profile:12345 0 COUNT 200

注意:HSCAN 不保证顺序,也不保证每次返回数量严格等于 COUNT(可能更少,尤其接近末尾时),更不会重复或遗漏——只要最终游标返回 0,就表示遍历完成。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

Java Jedis 中正确封装 HSCAN 分批读取

Jedis 官方 API 对 HSCAN 的封装较底层,容易漏掉游标循环或异常中断处理。直接用 jedis.hscan(key, cursor, new ScanParams().count(200)) 只能拿一次结果。

实操要点:

  • 必须用 do-while 或 while 循环,判断游标是否回到 "0"(字符串)
  • 每次拿到的 ScanResult<Map.Entry<String, String>> 需手动提取 getResult() 和 getCursor()
  • 若中途发生连接断开或超时,需记录当前游标,避免从头重试(业务侧需支持断点续扫)
  • 不要对每次返回的 field 做同步写 DB 或发 MQ,否则 I/O 会拖慢整体扫描节奏;建议先缓冲成批次(如每 100 条一批),再异步提交

简单示意:

String cursor = "0";
do {
    ScanResult<Map.Entry<String, String>> res = jedis.hscan("user:profile:12345", cursor, 
        new ScanParams().count(200));
    cursor = res.getCursor();
    for (Map.Entry<String, String> entry : res.getResult()) {
        // 处理单个 field-value
    }
} while (!"0".equals(cursor));

写入侧如何配合避免“热 key + 大 hash”双重压力

分批读只是缓解手段,如果业务还在高频往同一个 hash 写入大量 field(比如实时埋点打标),那即使不用 HGETALL,也会因内部 rehash 或 dict 扩容引发延迟毛刺。

可考虑:

  • 写入前判断当前 hash 的 field 数量,用 HLEN 监控阈值(如 >5000),超限则切分(如按时间戳后两位分桶:user:profile:12345:01, user:profile:12345:02)
  • 改用 JSON 存入 String 类型,配合 Redis 6.2+ 的 JSON.GET / JSON.FORGET 实现部分更新(前提是 value 结构固定且嵌套不深)
  • 如果必须用 Hash,写入尽量走 HMSET(或 HSET 多参数)批量操作,避免多个 HSET 连续调用

真正难的不是“怎么分批”,而是识别哪些 hash 本就不该长得那么大——field 名设计是否冗余?有没有把本该独立 key 的数据硬塞进一个 hash?这类问题往往比调优 HSCAN 更值得花时间重构。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4489

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4035

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7492

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

643

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

756

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7362

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1160

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1096

2024.04.07

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

20

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn