讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 漏桶算法与令牌桶的业务适用性

云雪小哥_5259

云雪小哥_5259

发布时间:2026-02-21 06:13:13

|

733人浏览过

|

来源于php中文网

原创

漏桶算法适合硬限流但无突发弹性,令牌桶更适Web API且支持短时突发;生产限流应优先选Redis实现的令牌桶,并注意key分桶、中间件顺序及超时熔断配合。

python 漏桶算法与令牌桶的业务适用性

漏桶算法在 Python 中适合做硬限流,但别用它防突发流量

漏桶本质是恒定速率出水,time.sleep() 或固定间隔 deque.popleft() 都能模拟,但它对突发请求毫无弹性——哪怕系统空闲,请求也得排队等“漏水”。适合下游服务极其脆弱、必须严格控速的场景,比如调用银行接口或写入硬件设备。

  • 常见错误:用漏桶应对秒杀流量,结果大量请求在桶里堆积超时,TimeoutError 暴增
  • 真实使用场景:定时同步日志到 ELK,每秒最多发 10 条,多一条都不行
  • 性能影响:桶容量大时,内存占用线性增长;用 threading.Lock 保护桶状态会成瓶颈

令牌桶更适合 Web API 限流,Python 用 redis-py 实现最稳

令牌桶允许短时突发(桶里有余量就放行),更贴合真实业务。纯内存实现(如 threading.local)只适用于单进程调试;生产必须依赖 Redis,靠 INCR + EXPIRE 原子操作保一致性。

  • 参数关键点:rate(令牌生成速率)、capacity(桶大小)要分开调:高并发接口可设 capacity=100 + rate=20/second,避免冷启动时全拒
  • 容易踩的坑:没设 EXPIRE 导致桶状态永久残留;用 float(time.time()) 算令牌数引发浮点误差,建议用整数时间戳 + int() 截断
  • 兼容性注意:Redis Cluster 下 EVAL 脚本需确保 key 在同一 slot,否则报 CROSSSLOT 错误

ratelimit 和 slowapi 这类库默认用令牌桶,但别直接信文档里的“开箱即用”

它们封装了逻辑,但默认配置常忽略业务细节。比如 ratelimit 的 @rate_limit 装饰器,默认用内存存储,部署多实例就失效;slowapi 的 Limiter 若不显式传 key_func,所有用户共用一个桶。

python-flask-vue-creator
python-flask-vue-creator

创建 Flask + Vue.js 全栈项目,采用单端口架构、uv 依赖管理、结构化日志和生产级前端设计。当用户要求以下操作时触发:创建新的 Flask+Vue 项目、搭建 Web 应用、构建全栈 Python+Vue 应用、初始化 Flask Web 项目、设置单端口 Flask 前后端项目。触发词:新建项目、创建项目、搭建项目、Flask项目、Vue项目。

下载
  • 实操建议:强制指定 key_func,例如按 request.client.host 或 request.headers.get("X-User-ID") 分桶
  • 检查中间件顺序:FastAPI 中若 Limiter 在 CORSMiddleware 后注册,预检请求(OPTIONS)可能被误限
  • 错误现象:429 Too Many Requests 返回但响应头没带 X-RateLimit-Remaining,说明底层没正确注入响应头逻辑

业务决策不是选算法,而是看“谁承担溢出成本”

漏桶让请求方等,令牌桶让请求方抢。如果超限后重试成本低(比如客户端自动轮询),用令牌桶;如果超限意味着订单丢失或资金风险(如支付回调),就得用漏桶+明确拒绝+返回 429 + 重试建议头。

立即学习“Python免费学习笔记(深入)”;

  • 最容易被忽略的一点:两种桶都解决不了“慢请求拖垮系统”的问题——限流只管数量,不管单个请求耗时。得配合 timeout 参数或熔断器(如 tenacity)一起用
  • 复杂点在于混合策略:核心接口用漏桶保底,非核心用令牌桶保体验,这时得在网关层统一鉴权和分流,而不是在每个服务里各自实现

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

相关专题

更多
什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

709

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

644

2025.12.18

ThinkPHP中间件机制与请求拦截处理实践
ThinkPHP中间件机制与请求拦截处理实践

本专题围绕 ThinkPHP 中间件体系展开,深入讲解中间件的定义、注册与执行流程。内容包括全局中间件与路由中间件的区别、请求前后处理逻辑、自定义中间件开发以及权限验证与日志处理应用。通过实际案例,帮助开发者掌握中间件在项目中的核心作用与最佳实践。

458

2026.03.31

Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

119

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

574

2026.02.06

Python Web框架FastAPI 全栈开发教程合集
Python Web框架FastAPI 全栈开发教程合集

以 FastAPI 为核心,讲解现代 Python Web API 的高效开发方式,涵盖路由定义与路径参数/查询参数/请求体绑定、Pydantic 模型的数据校验与序列化、依赖注入(Depends)系统的分层设计、中间件与 CORS 配置、OAuth2 + JWT 认证流程、后台任务(BackgroundTasks)、WebSocket 实时通信、SQLAlchemy 异步 ORM 集成、自动生成 OpenAPI/Swagger 交互文

696

2026.05.09

Python FastAPI异步微服务与高性能接口设计
Python FastAPI异步微服务与高性能接口设计

本专题聚焦 Python FastAPI 框架在高性能接口与微服务开发中的应用,讲解异步请求处理、依赖注入机制、路由设计、数据库异步操作以及接口性能优化策略。结合实际项目案例,帮助开发者构建高并发、低延迟的现代化后端服务架构。

599

2026.06.16

css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

7267

2024.04.28

Docker Desktop怎么设置端口映射
Docker Desktop怎么设置端口映射

本专题聚焦Docker Desktop容器端口映射与访问配置,整理从创建容器、设置端口绑定到验证本地服务访问的操作流程。针对端口被占用、映射配置错误、容器服务无法访问等情况,也提供相应的检查方向,方便用户完成端口配置。

0

2026.11.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn