讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

AniShort
AniShort

AI短剧协同制作平台

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

Python 接口限流的算法对比

梦辰酱_7924

梦辰酱_7924

发布时间:2026-02-14 13:06:10

|

779人浏览过

|

来源于php中文网

原创

令牌桶更适合Python Web接口,因其支持突发流量、配置灵活、Redis实现简单;漏桶易误限流且分布式下精度难保障。

python 接口限流的算法对比

令牌桶和漏桶,哪个更适合 Python Web 接口

令牌桶更灵活、更常用,尤其适合突发流量场景;漏桶严格匀速,容易在真实业务中造成误限流。Python 生态里 slowapi、fastapi-limiter 默认都用令牌桶,不是偶然。

原因很简单:Web 接口常有短时峰值(比如秒杀开场、定时任务触发),漏桶会把本可处理的请求直接挡掉;而令牌桶允许“借”几个令牌先扛住,只要后续填得上,就不伤体验。

  • token_bucket 的 capacity 和 refill_rate 可调,能适配不同接口的容忍度(比如登录接口严一点,查询接口松一点)
  • 漏桶的 leak_rate 一旦设死,就难兼顾“快响应”和“防刷”,改一次要全量重启
  • Redis 实现漏桶需额外维护“上次漏水时间”,精度依赖系统时钟,分布式下易出错;令牌桶只需原子增减一个计数器,INCRBY + EXPIRE 就够

用 redis-py 手写限流时,eval 脚本为什么不能少

不加 Lua 脚本,GET + INCR + EXPIRE 三步操作在并发下会失效——多个请求同时读到 0,又各自 INCR 成 1,结果放行了 5 个本该被限的请求。

必须用 eval 把判断和更新包成原子操作。别信“我只用单线程 Flask 就没事”,HTTP 服务器(如 Uvicorn)默认开多 worker,Redis 连接是共享的。

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 脚本里要用 redis.call("INCR", key) 而不是 redis.call("GET", key) 再 INCR,否则还是有竞态
  • 记得 EXPIRE 放在 INCR 后面,且只对新 key 生效(if ttl == -1 then redis.call("EXPIRE", key, expire_s) end)
  • 返回值建议设计成:-1 表示拒绝,>=0 表示剩余令牌数,方便前端做降级提示

fastapi-limiter 的 key_func 写错会导致全局限流

默认 key_func 是按路径限流,所有用户共用一个桶。你要按用户限流,却忘了重写这个函数,结果 A 用户刷爆了,B 用户跟着 429 —— 这不是 bug,是配置没到位。

常见错误写法:key_func=lambda request: request.url.path,看起来没错,但漏掉了身份标识。

  • 需要从 request 提取唯一标识:JWT 用 request.state.user_id(前提是中间件已解析并挂载),Session 用 request.cookies.get("session_id")
  • 注意空值处理:匿名用户建议用 request.client.host + request.headers.get("user-agent") 拼接,避免空字符串导致 key 冲突
  • 如果用了 Depends 注入依赖,key_func 里不能直接调用依赖函数,得提前在路由层 resolve 好再传进去

内存限流(ratelimit 库)在生产环境为什么不敢用

因为它是基于 threading.local 或全局 dict 实现的,每个进程一份状态。Uvicorn 开 4 个 worker,同一 IP 的请求打到不同进程,限流就形同虚设。

除非你确定永远只跑单进程(比如本地调试、CLI 工具),否则别在 Web 服务里用 ratelimit 或 limits 的内存后端。

  • 查文档会发现它支持 Redis,但默认不启用——必须显式传 storage="redis://...",且版本 >= 2.0
  • 旧项目若混用 limits 1.x 和 Redis,可能因序列化方式不一致导致 key 解析失败,报 ValueError: not enough values to unpack
  • 内存限流唯一靠谱的场景:异步任务内部的子调用节流(比如 Celery 里限制调第三方 API 的频率),此时单进程上下文可控

真正麻烦的从来不是选算法,而是怎么让 key 既唯一又安全、怎么让 Redis 调用不拖慢主流程、还有——当运维说“限流开关要能热更新”,你得想清楚配置项到底该放 etcd 还是 Redis Hash。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

相关专题

更多
flask框架如何搭建
flask框架如何搭建

搭建步骤:1、安装Python和Pip;2、创建虚拟环境;3、安装Flask;4、创建Flask应用;5、运行应用;6、访问应用。想了解更多flask框架的相关内容,可以阅读本专题下面的文章。

4255

2024.06.27

Python Flask框架
Python Flask框架

本专题专注于 Python 轻量级 Web 框架 Flask 的学习与实战,内容涵盖路由与视图、模板渲染、表单处理、数据库集成、用户认证以及RESTful API 开发。通过博客系统、任务管理工具与微服务接口等项目实战,帮助学员掌握 Flask 在快速构建小型到中型 Web 应用中的核心技能。

6584

2025.08.25

Python Flask Web框架与API开发
Python Flask Web框架与API开发

本专题系统介绍 Python Flask Web框架的基础与进阶应用,包括Flask路由、请求与响应、模板渲染、表单处理、安全性加固、数据库集成(SQLAlchemy)、以及使用Flask构建 RESTful API 服务。通过多个实战项目,帮助学习者掌握使用 Flask 开发高效、可扩展的 Web 应用与 API。

336

2025.12.15

什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2173

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

3614

2023.10.07

什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

709

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

664

2025.12.18

ThinkPHP中间件机制与请求拦截处理实践
ThinkPHP中间件机制与请求拦截处理实践

本专题围绕 ThinkPHP 中间件体系展开,深入讲解中间件的定义、注册与执行流程。内容包括全局中间件与路由中间件的区别、请求前后处理逻辑、自定义中间件开发以及权限验证与日志处理应用。通过实际案例,帮助开发者掌握中间件在项目中的核心作用与最佳实践。

458

2026.03.31

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn