讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

AniShort
AniShort

AI短剧协同制作平台

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Seko
Seko

AI短剧一键生成成片

Python 速率限制中间件的多维度实现

夜伟小哥_7274

夜伟小哥_7274

发布时间:2026-02-20 12:05:22

|

868人浏览过

|

来源于php中文网

原创

不够,因为lru_cache仅缓存返回值,不支持时间窗口、用户区分、请求阻塞及跨进程限流,真实场景需Redis等外部存储实现状态一致性。

python 速率限制中间件的多维度实现

用 functools.lru_cache 做内存级速率限制够吗?

不够,除非你只跑单进程且请求量极低。它本质是函数调用缓存,不是限流——不区分用户、不计时间窗口、不阻塞超限请求,更不会返回 429 Too Many Requests。常见错误是把它当 rate_limit 用,结果压测时直接绕过限制。

  • 真实限流必须带「时间窗口」和「计数器」逻辑,比如每分钟最多 100 次
  • lru_cache 缓存的是返回值,不是「是否允许通过」的决策
  • 多进程下各进程有独立缓存,完全失效;用 threading.Lock 补也解决不了跨进程问题
  • 如果只是防自己写脚本误刷,那它凑合;但要防真实用户或爬虫,必须换方案

FastAPI 里怎么加 Redis 支持的限流中间件?

核心是拦截请求、查 Redis 计数、超限就中断。别自己手写连接池和 Lua 脚本,用 slowapi 或 fastapi-limiter 更稳。

  • 推荐 fastapi-limiter:它封装了 aioredis(v2)或 redis-py(v4+),自动处理连接复用和原子计数
  • 初始化时必须传 redis 实例,不是 URL 字符串:await limiter.init(redis)
  • 限流装饰器要放在路由函数上,不是中间件里——中间件没提供 request.state 的干净入口点
  • 注意 key_func 参数:默认按路径限流,想按用户 IP 限,得写 lambda request: request.client.host
  • 错误现象:Redis 连接失败时默认静默放行,需手动检查 await limiter.get_connection() 并抛异常

Django 中间件里用 django-redis 实现滑动窗口限流要注意什么?

滑动窗口比固定窗口更准,但实现稍重。别用 zset 存所有时间戳——高频场景下会拖慢 Redis。

Biopython
Biopython

全面的分子生物学工具集。适用于序列操作、文件解析(FASTA/GenBank/PDB)、系统发育分析,以及通过 Bio.Entrez 以编程方式访问 NCBI/

下载
  • 用 ZREMRANGEBYSCORE 清旧数据必须紧跟在 ZCARD 前,否则并发时可能漏删
  • 单次请求的 key 要带毫秒级时间戳,比如 f"rate:{ip}:{int(time.time() * 1000)}",不然窗口对不齐
  • django-redis 的 get_client() 返回的是连接池实例,别每次 new 一个新连接
  • 性能坑:如果用 cache.set(key, 1, timeout=60) 模拟窗口,实际是固定窗口,且无法做「当前窗口内已多少次」的精确查询
  • 示例判断逻辑:if await redis.zcard(key) >= limit and await redis.zcount(key, now - window_ms, now) >= limit:

为什么用内存字典 + time.time() 实现的限流上线就崩?

因为没处理并发竞争和内存泄漏。看似简单,实则陷阱密集。

立即学习“Python免费学习笔记(深入)”;

  • 多线程下 dict 非线程安全,counter[uid] += 1 不是原子操作,会丢计数
  • 时间窗口清理靠定时任务?Python 没可靠后台线程,Gunicorn 多 worker 下每个进程都得跑一份,极易错乱
  • key 不设 TTL,字典无限增长,OOM 是早晚的事
  • 正确做法:至少加 threading.RLock,且每个 key 必须配 last_clean_time 字段,每次访问前检查并清理过期项
  • 更现实的选择:直接上 redis 或 memcached,本地内存只适合开发调试

限流的复杂点不在算法本身,而在「状态一致性」——跨进程、跨机器、网络分区、Redis 故障降级,这些边界情况一旦漏掉,线上就是 429 泛滥或者形同虚设。

热门AI工具

更多
PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

相关专题

更多
Python Web 框架 Django 深度开发
Python Web 框架 Django 深度开发

本专题系统讲解 Python Django 框架的核心功能与进阶开发技巧,包括 Django 项目结构、数据库模型与迁移、视图与模板渲染、表单与认证管理、RESTful API 开发、Django 中间件与缓存优化、部署与性能调优。通过实战案例,帮助学习者掌握 使用 Django 快速构建功能全面的 Web 应用与全栈开发能力。

593

2026.02.04

Python Django REST Framework接口安全与认证体系实践
Python Django REST Framework接口安全与认证体系实践

本专题围绕 Django REST Framework 展开,深入讲解 API 认证、JWT 鉴权、权限控制、接口安全防护以及防攻击策略设计。通过完整后端案例,帮助开发者构建安全可靠的 Web API 服务体系。

280

2026.06.29

什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

729

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

664

2025.12.18

ThinkPHP中间件机制与请求拦截处理实践
ThinkPHP中间件机制与请求拦截处理实践

本专题围绕 ThinkPHP 中间件体系展开,深入讲解中间件的定义、注册与执行流程。内容包括全局中间件与路由中间件的区别、请求前后处理逻辑、自定义中间件开发以及权限验证与日志处理应用。通过实际案例,帮助开发者掌握中间件在项目中的核心作用与最佳实践。

458

2026.03.31

Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

119

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

594

2026.02.06

Python Web框架FastAPI 全栈开发教程合集
Python Web框架FastAPI 全栈开发教程合集

以 FastAPI 为核心,讲解现代 Python Web API 的高效开发方式,涵盖路由定义与路径参数/查询参数/请求体绑定、Pydantic 模型的数据校验与序列化、依赖注入(Depends)系统的分层设计、中间件与 CORS 配置、OAuth2 + JWT 认证流程、后台任务(BackgroundTasks)、WebSocket 实时通信、SQLAlchemy 异步 ORM 集成、自动生成 OpenAPI/Swagger 交互文

756

2026.05.09

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

0

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn