讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 使用 run_in_executor 的正确姿势

大辰姑娘_6293

大辰姑娘_6293

发布时间:2026-02-15 16:20:02

|

663人浏览过

|

来源于php中文网

原创

必须用loop.run_in_executor将阻塞操作移交线程池或进程池执行:I/O选ThreadPoolExecutor,CPU密集型选ProcessPoolExecutor;须await等待结果;不可在executor中执行异步代码;自定义executor需手动shutdown;优先用None交由默认线程池。

python 使用 run_in_executor 的正确姿势

如果您在 Python 异步程序中需要执行阻塞型 I/O 或 CPU 密集型操作,但又不希望阻塞事件循环,则必须借助 loop.run_in_executor 将其移交至线程池或进程池执行。以下是正确使用该方法的关键步骤和常见实践:

一、明确 executor 类型并合理选择

run_in_executor 支持传入自定义的 concurrent.futures.Executor 实例,包括 ThreadPoolExecutor 和 ProcessPoolExecutor。对于 I/O 阻塞操作(如文件读写、数据库查询),应优先使用线程池;对于 CPU 密集型任务(如数值计算、图像处理),应使用进程池以规避 GIL 限制。

1、导入所需模块:from concurrent.futures import ThreadPoolExecutor, ProcessPoolExecutor

2、创建线程池实例:thread_pool = ThreadPoolExecutor(max_workers=4)

立即学习“Python免费学习笔记(深入)”;

3、创建进程池实例:process_pool = ProcessPoolExecutor(max_workers=2)

4、调用时显式传入:await loop.run_in_executor(thread_pool, blocking_func, *args)

二、始终使用 await 并避免直接调用返回值

run_in_executor 返回一个 Awaitable 对象,而非立即执行结果。若未用 await 等待,将导致协程未完成即继续执行后续逻辑,引发结果丢失或竞态问题。

1、正确写法:result = await loop.run_in_executor(None, time.sleep, 1)

2、错误写法:loop.run_in_executor(None, time.sleep, 1)(未 await,返回协程对象但被丢弃)

3、错误写法:result = loop.run_in_executor(None, time.sleep, 1)(赋值的是协程对象,非实际返回值)

三、避免在 executor 中执行异步代码

线程池或进程池中的函数运行于普通同步上下文,无法识别 async def 函数或 await 表达式。若将协程对象传入 executor,会直接抛出 TypeError,且不会触发任何异步调度。

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载

1、禁止传入协程函数:await loop.run_in_executor(None, async_func)

2、禁止在 executor 内部使用 await:def bad_worker(): await asyncio.sleep(1)

3、正确做法:将异步逻辑保留在主事件循环中,仅把纯同步函数移入 executor

四、手动管理 executor 生命周期防止资源泄漏

若使用自定义 executor(非传入 None),必须确保其在不再需要时被显式关闭,否则线程/进程将持续驻留,造成资源占用和难以调试的内存泄漏。

1、使用 try/finally 块包裹 executor 使用区域

2、在 finally 中调用 executor.shutdown(wait=True)

3、关键提示:未调用 shutdown 的自定义 executor 不会自动终止后台线程

五、优先使用 None 参数委托给默认线程池

当未传入 executor 时,run_in_executor 会使用事件循环内置的默认线程池(asyncio.DefaultExecutor)。该池由事件循环统一管理,无需手动关闭,适合大多数轻量级 I/O 操作场景。

1、启用默认线程池:await loop.run_in_executor(None, os.listdir, "/tmp")

2、注意:默认线程池最大线程数为 min(32, os.cpu_count() + 4),不可配置

3、适用于短时、低频、非关键路径的阻塞调用,避免长期占用默认池资源

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4638

2023.08.10

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

3025

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

4121

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

3391

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

1067

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2947

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2947

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2953

2023.10.16

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

0

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn