讲师中心 微信公众号
AI工具推荐 视频效率加速

Redis集群备份文件过大该如何进行增量备份?

酷瑶大大_7908

酷瑶大大_7908

发布时间:2026-09-06 08:34:21

|

909人浏览过

|

来源于php中文网

原创

Redis集群备份需规避RDB全量耗时与AOF重写陷阱,优先采用PSYNC2复制流增量捕获,并注意AOF大小获取、权限一致及节点错峰备份三细节。

redis集群备份文件过大该如何进行增量备份?

Redis集群备份文件过大,直接RDB全量备份不可行

集群环境下每个节点都生成独立的 RDB 文件,节点数一多、数据一涨,单次全量备份就可能达几十GB,不仅耗时长、IO压力大,还容易拖垮主从同步或触发超时。更关键的是:RDB 本身不带时间戳和变更标记,无法直接“diff”出增量——所谓“定时对比两个RDB取差异”,在生产中基本是伪命题,既不准又慢,还无法还原中间状态。

用AOF切片做增量备份,但必须绕过重写陷阱

集群中每个master节点开启 appendonly yes 后,appendonly.aof 天然是增量日志。但直接备份整个AOF不行:它会被 BGREWRITEAOF 清空重写,导致位置偏移错乱。所以必须配合位置记录+重写感知:

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 每次备份前先用 redis-cli info persistence | grep aof_current_size 拿当前AOF大小
  • 读取上次保存的偏移量(如存于 /backup/last_pos.txt),若当前大小 ≤ 上次值,说明发生了重写,需重置为0并等待重写完成
  • 用 dd if=appendonly.aof of=incremental_20260713.aof bs=1 skip=$LAST_POS count=$((CURR-CURR)) 提取新增字节
  • 备份后立即更新 last_pos.txt 为当前大小,而非文件末尾字节位置(避免重写后误跳)

监听复制流(replication stream)是更可靠的增量源

相比AOF,PSYNC2 协议下的复制流更稳定:它不依赖本地磁盘文件,不被重写干扰,且天然支持断点续传。工具如 redis-streamer 或自研 redis-cli --rdb - + 解析器可捕获命令流:

  • 启动监听时指定 runid 和 offset,从上次中断处继续
  • 每条命令以 RESP 格式到达,可过滤只保留 SET、HSET、DEL 等写操作
  • 输出为带时间戳的文本或二进制流,便于按小时切片归档
  • 注意:需确保主节点 repl-backlog-size 足够大(建议 ≥ 512mb),否则断连太久会丢失增量

备份脚本里最容易被忽略的三个细节

很多脚本跑着跑着就失效,不是逻辑错,而是栽在环境细节上:

  • stat -c %s 在某些旧版busybox中不支持,应改用 wc -c < file 获取AOF大小
  • 备份路径权限必须与 redis 用户一致,否则 BGREWRITEAOF 后新AOF可能属主错误,导致下轮备份读不到
  • 集群各节点备份时间不能完全同步——建议错开5~10分钟,避免所有master同时触发AOF重写,引发IO雪崩

热门AI工具

更多
UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4149

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3615

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

6412

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

603

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

716

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

5902

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1140

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

956

2024.04.07

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

80

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

进程与SOCKET
进程与SOCKET

共6课时 | 0.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn