讲师中心 微信公众号
AI工具推荐 视频效率加速

Python Semaphore 的生产使用场景

大静大大_1010

大静大大_1010

发布时间:2026-02-19 17:01:11

|

968人浏览过

|

来源于php中文网

原创

当需控制最多N个线程并发访问资源(如连接池限流)时用Semaphore;Lock仅适用于互斥场景。Semaphore(5)可配数据库连接池,设0会死锁,过大则失效;acquire(timeout)只限制排队超时,不保障整体操作时限;多进程须用multiprocessing.Semaphore或Manager;异步代码必须用asyncio.Semaphore并await,禁用threading版。

python semaphore 的生产使用场景

什么时候该用 threading.Semaphore 而不是 threading.Lock

当你要控制「同时最多 N 个线程」访问某资源,而不是「只允许 1 个」时,Semaphore 才有意义。比如连接池限流、API 调用配额、文件句柄复用——这些都不是“互斥”,而是“配额管理”。用 Lock 硬扛只会把并发压到 1,吞吐直接掉底。

  • 常见错误:把数据库连接池的并发控制写成 Lock,结果所有请求排队等一个连接
  • 典型场景:Semaphore(5) 配合数据库连接池,保证最多 5 个查询并行执行
  • 注意初始化值:设成 0 就永远卡住;设得太大等于没限(比如设成 1000 但实际机器只有 2 核)
  • 性能影响:Semaphore 内部也是基于条件变量实现的,争抢激烈时会有唤醒开销,但比自己手写计数 + Lock 更可靠

acquire() 的 timeout 参数为什么经常失效

它只管等待阶段是否超时,不保证“拿到信号量后操作一定来得及完成”。很多人误以为设了 timeout=2 就能防住整个请求超时,其实只是防住了排队时间。

  • 错误现象:sem.acquire(timeout=2) 返回 False,但上游 HTTP 请求已耗时 5 秒——因为前面 3 秒在做参数校验、日志记录等非临界区操作
  • 正确做法:把 timeout 当作“排队许可”的截止时间,业务逻辑的总耗时需另外用 signal.alarm 或 asyncio.timeout 包裹
  • 兼容性坑:Windows 下 signal.alarm 不可用;Python 3.11+ 推荐用 asyncio.wait_for 配合 asyncio.Semaphore
  • 别依赖 acquire(blocking=False) 做快速失败——它可能因 GIL 切换瞬间错过释放,导致误判

多进程里用 multiprocessing.Semaphore 会出什么问题

它不能跨进程共享状态,除非显式传给子进程或通过 multiprocessing.Manager 包装。直接在父进程中创建、子进程中引用,每个进程都有一份独立副本。

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 错误现象:主进程 sem = Semaphore(3),fork 出 4 个子进程,每个都能无阻塞调用 acquire() —— 实际并发变成 12
  • 解决路径:用 multiprocessing.Manager().Semaphore(3),或者更轻量的 multiprocessing.Semaphore 配合 ctx=mp.get_context('spawn') 初始化
  • 性能代价:Manager 方式走进程间通信,比纯内存快不了多少;spawn 模式启动慢,但语义清晰
  • 替代思路:高并发服务优先考虑异步(asyncio.Semaphore)或外部限流(Redis + Lua 计数),避免进程内复杂同步

和 asyncio.Semaphore 混用时最常踩的坑

绝对不要在一个 async 函数里调用 threading.Semaphore.acquire()。它会阻塞整个 event loop,让所有协程卡死。

立即学习“Python免费学习笔记(深入)”;

  • 错误写法:await asyncio.sleep(0); sem.acquire() —— acquire() 是同步阻塞调用,loop 进不去下一轮
  • 正确对应:异步代码必须用 asyncio.Semaphore,且 acquire() 要用 await;同步代码就老实用 threading.Semaphore
  • 混合场景(比如 async 函数里要调用同步 SDK):用 loop.run_in_executor 包一层,但记得 executor 里的 semaphore 也得是 threading 版本
  • 容易忽略:asyncio.Semaphore 不受 GIL 影响,但它的计数器是协程安全的——这点比手动 if count > 0: count -= 1 可靠得多
事情说清了就结束。真正难的不是选哪个 Semaphore,而是判断“这个资源到底要不要限、限多少、超了怎么降级”——这些没法靠 API 解决。

热门AI工具

更多
讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

相关专题

更多
counta和count的区别
counta和count的区别

Count函数用于计算指定范围内数字的个数,而CountA函数用于计算指定范围内非空单元格的个数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3668

2023.11.20

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4638

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3399

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2958

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

1528

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

2679

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

3350

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1697

2023.08.10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

0

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn