讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Redis中使用Lua脚本实现布隆过滤器的原子扩容?

轻雪君_1138

轻雪君_1138

发布时间:2026-10-27 07:17:02

|

807人浏览过

|

来源于php中文网

原创

不能直接用EVAL扩容布隆过滤器,因Lua无法动态创建新位图并批量迁移旧偏移位;需采用预分配+双写+离线迁移的两阶段切换方案。

如何在redis中使用lua脚本实现布隆过滤器的原子扩容?

为什么不能直接用 EVAL 扩容布隆过滤器?

Redis 本身不内置布隆过滤器,常见方案是用 SETBIT/GETBIT 模拟位图,再配合 Lua 脚本实现插入、查询。但扩容(比如从 1MB 位图扩到 2MB)需要原子性地:① 创建新位图;② 迁移旧数据;③ 替换键名。这些操作跨多个命令,EVAL 无法在运行时动态创建新 key 并迁移——因为 redis.call('SET', new_key, ...) 只能设字符串值,而位图必须用 SETBIT 逐位写入,但 Lua 中无法批量高效重放所有已置位的偏移量(你根本没存过这些偏移)。

真正可行的扩容路径:预分配 + 分片 + 切换

所谓“原子扩容”,其实是规避在线迁移,改用客户端协调的两阶段切换。核心是让新旧两个布隆过滤器并存,通过 key 命名约定和版本号控制读写路由:

  • 用两个 key:bloom:users:v1 和 bloom:users:v2,v2 容量更大(比如 bitmap 长度翻倍)
  • 扩容前先用 SETBIT bloom:users:v2 0 0 初始化新位图(确保 key 存在且类型为 string)
  • 写操作双写:SETBIT bloom:users:v1 offset 1 + SETBIT bloom:users:v2 offset 1(注意:v2 的 hash 函数需适配新容量,比如 offset % new_size)
  • 读操作先查 v2,未命中再查 v1(兼容旧数据),但需在 Lua 中统一封装,避免客户端逻辑分散

关键点:Lua 脚本只负责读写逻辑,不负责“复制旧数据”。历史数据迁移走离线任务(如 SCAN + BITPOS),不在原子上下文中做。

一个安全的双读 Lua 脚本示例

以下脚本用于查询某元素是否存在,自动 fallback 到旧版本:

redis-tools
redis-tools

按类别查找Redis命令、检测服务器连接、监控键数量和内存占用,支持离线速查表。

下载
local key_v2 = KEYS[1]
local key_v1 = KEYS[2]
local offset = tonumber(ARGV[1])
<p>-- 先查新版本
local exists_v2 = redis.call('GETBIT', key_v2, offset)
if exists_v2 == 1 then
return 1
end</p><p>-- 再查旧版本(仅当 v1 存在且类型正确)
local type_v1 = redis.call('TYPE', key_v1)
if type_v1['ok'] == 'string' then
local exists_v1 = redis.call('GETBIT', key_v1, offset % (tonumber(ARGV[2]) or 1048576))
return exists_v1
else
return 0
end

调用时传入:redis.eval(script, 2, 'bloom:users:v2', 'bloom:users:v1', offset, new_bitmap_size)。注意 offset % new_bitmap_size 是为了防止旧版 offset 超出新版范围——这要求你在设计 hash 函数时,初始版本就预留可被整除的模数(比如始终用 2 的幂)。

最容易被忽略的三个细节

第一,SETBIT 对不存在的 key 会自动创建,但长度按需扩展;如果扩容后新 key 从未写入,首次 GETBIT 会返回 0,没问题。但如果你依赖 BITCOUNT 统计,就得确保新 key 至少被初始化过一次(哪怕只 SETBIT key 0 0),否则 Redis 会返回 0 而非“key 不存在”错误。

第二,Lua 中无法获取位图当前长度,STRLEN 返回字节长度,但 SETBIT key 1048575 1 可能让实际分配内存远大于 1048576/8 字节(Redis 内部有对齐)。所以不要用 STRLEN 推算容量,显式存一个 bloom:users:v2:size 的元数据 key 更可靠。

第三,双写不是最终态——你需要一个明确的“切换窗口期”,之后停写 v1,并用后台任务清空它。这个窗口期长短取决于业务容忍的误判率上升(v1 停写后,新元素只进 v2,但查询仍 fallback,所以不会漏判;只是 v1 里旧元素若被误删,会导致假阴性)。

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4649

2023.11.02

内存数据库有哪些
内存数据库有哪些

内存数据库有Redis、Memcached、Apache Ignite、VoltDB、TimesTen、H2 Database、Aerospike、Oracle TimesTen In-Memory Database、SAP HANA和ache Cassandra。更多关于内存数据库相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

4215

2023.11.14

mongodb和redis哪个读取速度快
mongodb和redis哪个读取速度快

redis 的读取速度比 mongodb 更快。原因包括:1. redis 使用简单的键值存储,而 mongodb 存储 json 格式的数据,需要解析和反序列化。2. redis 使用哈希表快速查找数据,而 mongodb 使用 b-tree 索引。因此,redis 在需要高性能读取操作的应用程序中是一个更好的选择。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7912

2024.04.02

redis怎么做缓存服务器
redis怎么做缓存服务器

redis 作为缓存服务器的答案:redis 是一款开源、高性能、分布式的键值存储,可作为缓存服务器使用。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

643

2024.04.07

redis怎么解决数据一致性
redis怎么解决数据一致性

redis 提供了两种一致性模型,以维护副本数据一致性:强一致性 (sync) 确保写操作仅在复制到所有从节点后才完成;最终一致性 (async) 则在主节点上写操作后认为已完成,牺牲一致性换取性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

776

2024.04.07

mysql和redis怎么保证双写一致性
mysql和redis怎么保证双写一致性

确保 mysql 和 redis 双写一致性的技术包括:1、事务性更新:同时更新 mysql 和 redis,保证一致性;2、主从复制:mysql 主服务器更改同步到 redis 从服务器;3、基于事件的更新:mysql 记录更改并发送到 redis等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

7962

2024.04.07

redis缓存一般存些什么数据
redis缓存一般存些什么数据

redis缓存中存储的数据类型包括:字符串、哈希、列表、集合、有序集合、位图、地理空间数据和hyperloglog。这些数据类型适用于存储各种数据,从简单信息到复杂对象和地理位置。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1180

2024.04.07

redis的8种数据类型有哪些
redis的8种数据类型有哪些

redis 提供 8 种数据类型:字符串(文本、数字、二进制)、哈希(键值对)、列表(有序集合)、集合(无序唯一元素)、有序集合(按分数排序)、地理空间(地理位置)、hyperloglog(估计大数据基数)和位图(位序列存储)。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1196

2024.04.07

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
phpEnv手册
phpEnv手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn