讲师中心 微信公众号

工具推荐

视频效率加速
Seko
Seko

AI短剧一键生成成片

AniShort
AniShort

AI短剧协同制作平台

updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Redis List存储大量重复数据_利用SADD去重后再存入List优化

千墨同学_9289

千墨同学_9289

发布时间:2026-04-16 08:47:07

|

260人浏览过

|

来源于php中文网

原创

不能用 SADD 对 List 去重后再存入 List,因为 SADD 操作 Set 而 List 无序不支持去重,混用会导致顺序丢失、性能下降和并发不一致。

redis list存储大量重复数据_利用sadd去重后再存入list优化

直接说结论:不能用 SADD 对 List 去重后再“存入 List”,因为 List 本身不支持去重,而 SADD 操作的是 Set —— 这是两种完全不同的数据结构,混用会导致逻辑错乱、数据丢失或额外维护成本。

为什么 SADD 和 List 不能串着用

SADD 只能往 Set 中添加元素,自动去重;List 是有序、可重复的链表结构,没有内置去重能力。常见错误是想“先用 SADD 过一遍数据,再把 Set 结果塞进 List”,但这样会丢失原始顺序(Set 无序),且多一次遍历 + 写入,反而更慢。

  • Set 里存的是去重后的无序集合,无法还原插入顺序或频次
  • 从 Set SMEMBERS 再 LPUSH 到 List,是 O(N) 额外开销,N 大时延迟明显
  • 并发写入时,SADD + LPUSH 不是原子操作,可能产生中间态不一致

真正需要去重+保序时该用什么

如果业务既要避免重复、又要保持插入顺序(比如用户最近浏览的 100 个商品 ID),优先考虑组合方案而非强行套用单一类型:

Sentinal Redis
Sentinal Redis

监控Redis服务器健康状况、内存、性能及BullMQ队列。检查队列深度、失败任务,分析慢查询并诊断问题。

下载
  • 用 SET 记录是否已存在(如 viewed:{uid}),每次 SISMEMBER + LPUSH,只对新元素操作
  • 用 LIST 存顺序,SET 做查重缓存,两者 key 关联(如都带 {uid} 后缀)
  • 若需严格原子性,封装成 Lua 脚本:EVAL "if not redis.call('sismember', KEYS[1], ARGV[1]) then redis.call('sadd', KEYS[1], ARGV[1]); redis.call('lpush', KEYS[2], ARGV[1]); end" 2 viewed:123 list:123 456

大量重复数据写入 List 的实际瓶颈在哪

性能问题通常不出在“重复”本身,而出在 List 的底层实现和访问模式:

  • LPUSH/RPUSH 本身很快,但 LLEN 或 LRANGE 全量读取大 List 是 O(N),容易拖垮连接
  • Redis List 底层用双向链表 + 压缩列表(ziplist),当单个元素 > 64 字节 或 总长度 > 512 项时,会转为链表,内存放大明显
  • 高频 LPOP/RPOP + LPUSH 做队列?直接换 Blocking Pop(BLPOP)或考虑 Stream

真正要优化的不是“怎么去重后塞进 List”,而是明确:这个数据到底需不需要顺序?要不要实时去重?能不能接受最终一致性?——选型错一步,后面全是补丁。

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4949

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4535

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

8792

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

683

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

9162

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1200

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1456

2024.04.07

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

20

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go-Zero官方文档
Go-Zero官方文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn