讲师中心 微信公众号
AI工具推荐 视频效率加速

为什么Redis大Key会导致持久化Fork时的内存激增

梦明吖_6595

梦明吖_6595

发布时间:2026-10-07 10:09:01

|

463人浏览过

|

来源于php中文网

原创

根本原因是COW机制被大Key触发大量页复制;大Key占据密集内存区域,高频修改导致内核频繁分配复制4KB页,RSS瞬时飙升近两倍,非Redis泄露而是COW必然开销。

为什么redis大key会导致持久化fork时的内存激增

Redis fork时内存激增的根本原因是COW机制被大Key触发大量页复制

Redis执行BGSAVE或bgrewriteaof时,必须调用fork()创建子进程。这个操作本身不拷贝物理内存,而是依赖Linux的写时复制(COW):父子进程共享页表映射,只有当某页被修改时,内核才为该页分配新物理内存并复制内容。

问题出在大Key上——它往往占据连续、密集的内存区域(比如一个500MB的hash),且高频读写会持续触发页修改。此时内核不得不为每一个被修改的4KB页单独分配+复制,导致RSS(常驻集大小)在数秒内飙升,甚至逼近两倍峰值内存。这不是Redis“泄露”,而是COW在真实负载下的必然开销。

  • latest_fork_usec在INFO persistence中持续 >1000000(即1秒)是明确信号
  • Linux dmesg出现Out of memory: Kill process redis-server说明已触发OOM Killer
  • used_memory_peak_human突增 + mem_fragmentation_ratio >1.5,说明碎片加剧了COW压力

为什么MEMORY USAGE比DEBUG OBJECT更准?

很多人用DEBUG OBJECT看serializedlength来估算Key大小,但这是错的——它只反映序列化后的字节长度,完全忽略Redis内部编码开销、哈希表扩容冗余、指针数组、内存对齐等真实占用。一个10MB的hash,DEBUG OBJECT可能报8MB,而MEMORY USAGE会返回12MB+,这才是fork时真正要复制的量。

实操建议:

  • 定位大Key必须用MEMORY USAGE <key>,不是DEBUG OBJECT
  • 批量扫描用redis-cli --bigkeys -i 0.1,但仅作初筛;最终确认一定要对候选Key逐个跑MEMORY USAGE
  • 注意MEMORY USAGE本身是阻塞命令,别在高峰对疑似大Key直接执行,先用SCAN抽样再定向查

混合持久化(RDB+AOF)会让大Key压力翻倍

启用aof-use-rdb-preamble yes后,AOF重写会先写一段RDB格式的preamble,再追加增量AOF命令。这意味着:同一个大Key,既要被RDB preamble全量序列化一次(需fork),又要在后续AOF部分再处理一遍增量变更(仍需遍历+序列化)。CPU和内存压力不是叠加,是乘性放大。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载

更危险的是:CONFIG SET aof-use-rdb-preamble yes会**强制触发一次AOF重写**,没有回退路径。线上大Key实例大概率直接OOM。

  • 生产环境如无强一致性要求,直接禁用:CONFIG SET aof-use-rdb-preamble no
  • 禁用后记得CONFIG REWRITE落盘,避免重启恢复时又加载旧配置
  • 不要动态开关混合模式——调整必须安排在低峰期重启实例

透明大页(THP)会让COW问题雪上加霜

系统开启transparent_hugepage(THP)时,内核会尝试把多个4KB页合并成2MB大页。但Redis内存分配高度动态、不连续,THP反而导致频繁的页分裂、内存规整(compaction)和TLB miss,进一步拉长fork()耗时,并加剧内存碎片。

检查方式:cat /sys/kernel/mm/transparent_hugepage/enabled,若输出含[always]或[madvise],就必须关:

  • 临时关闭:echo never > /sys/kernel/mm/transparent_hugepage/enabled
  • 同时关后台整理:echo never > /sys/kernel/mm/transparent_hugepage/defrag
  • 永久生效需写入启动脚本或systemd drop-in,否则重启失效

最易被忽略的一点:即使你拆分了大Key、关了THP、调了vm.overcommit_memory = 1,只要mem_fragmentation_ratio长期高于1.5,COW压力依然会隐性放大——这时候不是配置问题,是内存碎片已到临界点,必须安排主从切换后重启实例释放内存。

热门AI工具

更多
AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4329

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3835

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6992

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

623

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

756

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6682

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1160

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1036

2024.04.07

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

0

2026.10.08

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn