讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Python中实现一致性哈希算法_解决分布式缓存中的节点增减问题

陌磊同学_4046

陌磊同学_4046

发布时间:2026-05-10 07:50:47

|

734人浏览过

|

来源于php中文网

原创

一致性哈希通过虚拟节点、有序环和二分查找实现节点增减时仅迁移局部数据,避免全量重哈希;而hash(key) % node_count在节点数变化时会导致几乎所有key映射错位,引发缓存雪崩。

如何在python中实现一致性哈希算法_解决分布式缓存中的节点增减问题

直接说结论:用虚拟节点 + 有序环 + 二分查找,就能让节点增减时只迁移局部数据,避免全量重哈希。

为什么不能直接用 hash(key) % node_count

这个表达式看着简单,但节点数一变(比如从 3 扩到 4),几乎所有 key 的归属都会错位。比如 hash("user_123") % 3 == 1,扩容后变成 % 4 == 2,原来存在 node1 的数据现在去 node2 查——查不到。结果就是缓存雪崩、DB 扛压、服务抖动。

一致性哈希不依赖节点总数,而是把所有节点和 key 都映射到同一个固定大小的环(通常是 0 到 2**32 - 1)上,靠顺时针“就近分配”来解耦节点数量变化。

  • 节点增减只影响环上相邻一段区间,不是全局重算
  • 实际部署中,单节点故障或下线,通常只有 1/N 左右的数据需要重定位(N 是节点数)
  • 但纯环结构容易因节点 hash 值分布不均导致负载倾斜——这就是虚拟节点要解决的问题

ConsistentHash.get_node() 必须用二分查找,别遍历列表

环上节点位置存进 list 后如果每次 get_node 都 for 循环找第一个 ≥ key hash 的位置,时间复杂度是 O(n),节点一多(比如上百个物理机+每个配 100 个虚拟节点),延迟就明显了。

立即学习“Python免费学习笔记(深入)”;

python-parallelization
python-parallelization

将顺序 Python 代码转换为并行/并发实现,用于在需要并行化 Python 代码、提升性能时使用。

下载

正确做法是用 bisect.bisect_left 在已排序的 hash 值列表里二分定位:

import bisect
# self.sorted_hashes 是升序排列的节点 hash 值列表(含虚拟节点)
pos = bisect.bisect_left(self.sorted_hashes, key_hash)
if pos == len(self.sorted_hashes):
    pos = 0
return self.hash_to_node[self.sorted_hashes[pos]]
  • 插入/删除节点时必须维持 sorted_hashes 有序,推荐用 sortedcontainers.SortedList 或手动 insort
  • 不要用 dict.keys() 然后 sorted() —— 每次调用都排序是 O(n log n),完全不可接受
  • Python 标准库没有线程安全的有序集合,高并发场景下注意加锁或换用 SortedDict 类型

虚拟节点数 replica_num 不是越多越好

设真实节点为 A、B、C,replica_num=3 就生成 A-0/A-1/A-2、B-0/B-1/B-2、C-0/C-1/C-2 共 9 个虚拟节点。它们在环上越分散,负载越均衡。

但要注意:

  • replica_num 太小(如 1~3):节点少时仍可能聚集,倾斜明显
  • replica_num 太大(如 >200):内存占用上升(每个虚拟节点存一次 hash 值 + 映射关系),ring 初始化和变更开销变高
  • 生产常用值是 64、128、256;Redis Cluster 实际用的是 16384 个 slot,本质也是超细粒度虚拟节点
  • MD5 输出是 128 位,转成整数再 mod 2**32 时,高位信息被截断——建议用 int(hashlib.md5(...).hexdigest()[:8], 16) 取前 8 字符更稳

gen_key 函数必须稳定且无状态

同一个节点名(比如 "cache-01.example.com:11211")在不同机器、不同时刻调用 gen_key,必须产出完全一致的 hash 值。否则 ring 对不上,节点加入后找不到自己,或者 key 定位错乱。

  • 别用 time.time()、os.getpid()、随机数参与计算
  • 节点标识尽量用不变量:IP+端口、容器 hostname、K8s pod UID(非 name)
  • key 字符串统一 encode 成 utf-8,避免 Python 2/3 或 locale 差异
  • 测试时可打印几个典型输入的 hash 值,确认跨环境一致:print(ConsistentHash.gen_key("node1"))

真正难的不是写完 add_node 和 get_node,而是保证所有客户端实例用同一套节点配置、同一套 hash 参数、同一版 gen_key 逻辑——配置同步失败或版本混用,环就裂开了。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1771

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4624

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1749

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

27297

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3287

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3307

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1203

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn