讲师中心 微信公众号
AI工具推荐 视频效率加速

怎么在Redis中利用Pipeline提升大规模数据写入性能

陌枫酱_1616

陌枫酱_1616

发布时间:2026-04-10 17:22:49

|

1022人浏览过

|

来源于php中文网

原创

单条 SET 写 Redis 慢是因每次请求都经历完整 TCP 往返,10 万次 0.5ms 延迟累计达 50 秒;Pipeline 通过打包多命令为单次往返省去 99% RTT,但非事务、不保证原子性,Python 中需显式设 transaction=False 并调用 execute()。

怎么在redis中利用pipeline提升大规模数据写入性能

为什么单条 SET 写 Redis 慢得明显?

因为每次 SET 都要走一次 TCP 往返:客户端发命令 → 服务端处理 → 返回 OK。网络延迟(哪怕只有 0.5ms)乘上 10 万次,就是 50 秒。这不是 Redis 慢,是「请求太碎」。

Pipeline 的核心不是让 Redis 跑得更快,而是把多个命令打包成一个 TCP 包发过去,服务端批量执行、批量回包——省掉中间 99% 的 RTT。

注意:pipeline 不是事务,不保证原子性;失败的命令不会中断后续执行,错误结果仍会返回在响应列表里。

Python 中用 redis-py 正确开启 Pipeline 的写法

别直接用 r.pipeline() 就完事——默认是 transaction=True,会额外加 MULTI/EXEC 开销,反而拖慢纯写入场景。

Redis Skill - 高性能缓存管理
Redis Skill - 高性能缓存管理

Redis 缓存和数据结构管理技能。通过自然语言操作 Redis,支持 String、Hash、List、Set、ZSet、Stream 等数据结构操作。当用户提到 Redis、缓存、消息队列、会话存储时使用此技能。

下载
  • 必须显式传 transaction=False:r.pipeline(transaction=False)
  • 写完记得调 execute(),否则命令根本没发出去
  • 每批不宜过大(建议 1000–5000 条),太大可能触发客户端内存暴涨或服务端 client-output-buffer-limit 限制
  • 避免在 pipeline 里混用读命令(如 GET),否则无法利用响应合并优势
pipe = r.pipeline(transaction=False)
for i in range(10000):
    pipe.set(f"key:{i}", f"value:{i}")
result = pipe.execute()  # 批量发出,一次性收 10000 个响应

什么时候 Pipeline 反而更慢?

Pipeline 不是银弹。以下情况它帮不上忙,甚至添乱:

  • 数据量小(
  • 命令之间有依赖(比如后一条要用前一条的 GET 结果):Pipeline 无法串行等待,得拆成多段或改用 Lua
  • 用了 WATCH 或需要强一致性的场景:Pipeline 不支持乐观锁,必须退回到单命令 + 重试逻辑
  • Redis 实例本身已高负载(CPU >80% 或内存接近 maxmemory):批量压入可能加剧阻塞,观察 latency doctor 输出是否出现 command 类型延迟尖峰

比 Pipeline 更快的替代方案:redis-cli --pipe 和 RESTORE

如果只是「灌数据」且能接受离线准备格式,绕过 Python 层更高效:

  • redis-cli --pipe 直接从标准输入读取 RESP 协议格式命令流,无序列化/反序列化开销。适合从文件或管道导入:cat commands.txt | redis-cli --pipe
  • 对已有 Redis 数据做迁移或备份恢复,用 RESTORE(配合 DUMP)批量还原整个 key,比逐 key SET 快 3–5 倍,但要求目标 key 不存在且不校验 TTL 兼容性
  • 集群环境下,pipeline 默认不自动分片——你得自己按 key hash 路由到对应节点,否则会报 CROSSSLOT 错误;而 redis-cli --pipe 同样不处理分片,需前置拆分命令流

真正卡点往往不在「怎么发」,而在「发之前有没有预计算好 key 分布」「失败后要不要补漏」「内存够不够缓存整批命令」——这些细节比选 pipeline 还关键。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4409

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

3955

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7232

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

643

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

756

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7002

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1160

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1076

2024.04.07

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

60

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn