讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

Seko
Seko

AI短剧一键生成成片

Laper
Laper

剧本策划到成片协作

AniShort
AniShort

AI短剧协同制作平台

怎么在Redis中利用Pipeline提升大规模写入的执行速度

浅丽小哥_7885

浅丽小哥_7885

发布时间:2026-04-11 16:41:06

|

422人浏览过

|

来源于php中文网

原创

单条命令写入Redis在批量场景下变慢是因为每次操作需一次网络往返(RTT),10,000次逐条执行导致2秒网络开销;Pipeline通过打包多条命令为单次RTT解决该问题。

怎么在redis中利用pipeline提升大规模写入的执行速度

为什么单条命令写入 Redis 在批量场景下会变慢

Redis 是基于 TCP 的请求-响应模型,每次 SET、LPUSH 等操作都需一次网络往返(RTT)。当你要写入 10,000 条数据时,若逐条发送,就产生 10,000 次 RTT —— 即便每轮只要 0.2ms,光网络开销就达 2 秒,远超命令实际执行时间。

根本问题不在 Redis 服务端性能,而在客户端与服务端之间「一问一答」的串行通信模式。Pipeline 把多条命令打包成一个 TCP 包发过去,服务端顺序执行后一次性返回所有结果,把 N 次 RTT 压缩为 1 次。

Python 中用 redis-py 正确开启 Pipeline 的写法

别直接调 r.set(...),要用 pipeline() 获取管道对象,再链式调用命令方法,最后统一 execute():

r = redis.Redis()
pipe = r.pipeline()
for i in range(10000):
    pipe.set(f"key:{i}", f"value:{i}")
    pipe.expire(f"key:{i}", 3600)
pipe.execute()  # ← 这里才真正发包并阻塞等待全部结果

注意几个关键点:

  • pipe.execute() 是同步阻塞调用,返回一个列表,每个元素对应前面第 N 条命令的结果(比如 [True, True, ...])
  • 不要在循环里反复调 r.pipeline() —— 那等于没用;必须复用同一个 pipe 实例
  • 默认情况下,redis-py 的 pipeline 是「无事务」的(transaction=False),即不加 MULTI/EXEC 包裹,仅做批量发送,性能更高
  • 如果中途某条命令语法错误(如 pipe.hset("hash", "field", value, "extra") 参数错),execute() 仍会执行完前面所有合法命令,但该位置返回 ResponseError 异常对象(不是抛出异常)

Pipeline 的边界:什么时候不该用,或要配额拆分

Pipeline 不是越大越好。过长的管道会带来三类实际风险:

Sentinal Redis
Sentinal Redis

监控Redis服务器健康状况、内存、性能及BullMQ队列。检查队列深度、失败任务,分析慢查询并诊断问题。

下载
  • 内存压力:客户端缓存所有命令参数 + 服务端暂存全部响应结果,10 万条 SET 可能吃掉百 MB 内存
  • 失败成本高:一旦连接中断或服务端 OOM,整批命令全丢,重试粒度太大
  • 阻塞时间不可控:execute() 要等全部命令执行完才返回,若其中一条慢查询(如大 ZRANGE)拖累整体

实操建议:

  • 单次 execute() 控制在 1000–5000 条命令内(具体看 value 大小)
  • 写入前先估算总字节数:sum(len(k)+len(v) for k,v in data) * 1.5(含协议开销),超 1MB 就拆
  • 避免在 pipeline 里混入耗时命令(KEYS、SMEMBERS、大 LRANGE),它们会卡住整个批次

对比:Pipeline vs Transaction vs Lua Script 的适用场景

三者都能「减少 RTT」,但语义和约束完全不同:

  • pipeline():纯网络优化,无原子性保证,命令间可被其他客户端穿插执行
  • r.transaction():底层走 MULTI/EXEC,提供原子性(要么全成功,要么全失败),但有额外开销,且不支持条件逻辑
  • Lua script(r.eval(...)):服务端原子执行,支持 if/loop/本地变量,适合复杂逻辑,但脚本过长会阻塞 Redis 单线程

只为了「快写」,选 pipeline;需要「全成功或全失败」才上 transaction;需要「服务端计算+写入」才考虑 Lua。别为了省一次 RTT 把简单写入硬套进 Lua。

真正容易被忽略的是:Pipeline 的加速效果高度依赖网络质量。在本地回环(localhost)上提升可能只有 2–3 倍;但在跨机房、高延迟链路上,10 倍以上很常见 —— 测之前先 ping 一下目标 Redis 地址的 RTT。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

5029

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4615

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

9032

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

683

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

9482

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1200

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1556

2024.04.07

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

0

2026.11.17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go-Zero官方文档
Go-Zero官方文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn