讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 客户端限流的实现方式

大辰姑娘_6293

大辰姑娘_6293

发布时间:2026-02-15 15:56:02

|

582人浏览过

|

来源于php中文网

原创

time.sleep()限流仅适用于单线程脚本,多线程下各线程独立休眠导致QPS失控;ratelimit库默认线程本地计数,需配合锁和全局计数器;异步环境应使用asyncio.Semaphore与后台补令牌任务;生产环境多实例必须用Redis+Lua原子操作,避免超卖。

python 客户端限流的实现方式

用 time.sleep() 做简单限流,为什么常出问题

它确实能卡住请求节奏,但只适合单进程、无并发的脚本。一旦加了多线程或多进程,time.sleep() 只阻塞当前线程,其他线程照发不误,实际 QPS 完全失控。

常见错误现象:requests.get() 在循环里配了 time.sleep(1),结果压测发现每秒发出 5–6 个请求——因为开了 5 个线程,每个都睡自己的 1 秒,互不感知。

  • 适用场景:调试用的单次脚本、CLI 工具的简单重试延时
  • 千万别用在 ThreadPoolExecutor 或 asyncio 环境里
  • 没有状态共享,无法统计“过去 10 秒发了多少个”,也就谈不上滑动窗口

ratelimit 库的 @sleep_and_retry + @limits 组合怎么配才不翻车

这个组合看似开箱即用,但默认是基于线程本地计数器的,多线程下会各自维护一套计数,导致总请求数超标。

必须显式传入 key_func 和共享存储(比如用 threading.Lock + 全局 dict),否则在 concurrent.futures 场景下大概率超限。

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 正确写法示例:
    from ratelimit import limits, sleep_and_retry
    import threading
    
    _counter = {"count": 0, "last_reset": 0}
    _lock = threading.Lock()
    
    def key_func(*args, **kwargs):
        return "global"
    
    @sleep_and_retry
    @limits(calls=10, period=60, key_func=key_func)
    def call_api():
        with _lock:
            _counter["count"] += 1
  • 注意 period 单位是秒,不是毫秒;calls 是整数,不支持小数(比如 0.2 次/秒得换算法)
  • 该库不兼容 asyncio,异步客户端必须换方案

异步 HTTP 客户端(aiohttp)怎么实现令牌桶

异步环境不能靠锁和全局变量硬扛,得用 asyncio.Semaphore 配合时间戳做令牌生成逻辑。核心是每次请求前检查“当前令牌数 ≥ 1”,不够就按缺额等待。

容易踩的坑:直接用 asyncio.sleep() 等待会导致整个 event loop 延迟,应改用 await asyncio.wait_for(sem.acquire(), timeout=...) 配合定期 refill 任务。

  • 推荐结构:启动一个后台 asyncio.create_task(refill_loop()),每 100ms 补 1 个令牌(根据速率换算)
  • sem = asyncio.Semaphore(0) 初始化为 0,首次 acquire 必然挂起,等 refill 启动后才放行
  • 别把 refill 逻辑写进请求函数里——高频调用会导致时间戳判断失准和重复补发

生产环境该选 redis-py 还是内存计数器

单机服务且不惧重启丢数据,用 threading.local 或 functools.lru_cache 配时间窗口最快;但只要涉及多实例、滚动发布或需要精确削峰,就必须上 Redis。

Redis 方案不是简单 INCR + EXPIRE 就完事——Lua 脚本才是原子关键。漏掉这步,高并发下 GET + INCR + SETEX 三步分离会引发超卖。

  • 必须用 Lua 做原子操作,例如:
    local current = redis.call("INCR", KEYS[1])
    if current == 1 then
      redis.call("EXPIRE", KEYS[1], ARGV[1])
    end
    return current
  • 客户端要处理 ConnectionError 和 TimeoutError:降级为内存限流 or 直接放过,别让限流组件拖垮主链路
  • Redis 的 TIMEOUT 设置建议比窗口周期长 10%,避免刚好过期时新请求被误判

真正难的从来不是“怎么写个限流器”,而是“怎么让它的行为在故障、扩容、时钟跳变时不背叛你的 SLA”。这些边界条件,往往在压测之后才浮出来。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

5085

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

2150

2025.09.18

c++ 全局变量
c++ 全局变量

本专题整合了c++全局变量的使用、定义、作用域等等内容,阅读专题下面的文章了解更多详细内容。

199

2026.03.17

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4658

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1309

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

443

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

579

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

429

2026.02.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

20

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn