讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Python中使用run_in_executor执行CPU密集计算?

老萱吖_5650

老萱吖_5650

发布时间:2026-09-17 11:42:01

|

672人浏览过

|

来源于php中文网

原创

run_in_executor需显式配合ProcessPoolExecutor才能解决CPU密集型任务阻塞问题;默认ThreadPoolExecutor受GIL限制无效,且函数须可pickle、进程池应复用、入口需if name == "__main__":防护。

如何在python中使用run_in_executor执行cpu密集计算?

run_in_executor 本身不解决 CPU 密集型任务的阻塞问题

run_in_executor 是 asyncio 提供的“把同步函数扔进线程池或进程池执行”的机制,但它不会自动让 CPU 密集型任务变快或不卡事件循环——关键在于你传给它的 executor 类型。默认用的是 ThreadPoolExecutor,而线程在 Python 中受 GIL 限制,对纯 CPU 计算几乎无效。

如果你发现用了 run_in_executor 后 CPU 计算还是卡住协程、响应延迟高,大概率是因为没显式指定 ProcessPoolExecutor

必须显式传入 ProcessPoolExecutor 才能真正并行 CPU 计算

asyncio 的 run_in_executor 支持传入自定义 executor。要真正释放多核能力,得用 concurrent.futures.ProcessPoolExecutor,而不是依赖默认线程池。

  • 不要写 loop.run_in_executor(None, cpu_heavy_func, *args) —— None 表示用默认线程池,GIL 下无效
  • 要写 loop.run_in_executor(process_pool, cpu_heavy_func, *args),其中 process_pool 是提前创建好的 ProcessPoolExecutor 实例
  • 进程池不宜在每次调用时临时创建,否则开销远超计算收益;建议作为全局或类成员复用
  • 被调用的函数(如 cpu_heavy_func)必须可被 pickle,不能是闭包、lambda 或定义在 __main__ 顶层但未加 if __name__ == "__main__": 保护的函数(Windows/macOS 上会报 RuntimeError: An attempt has been made to start a new process before the current process has finished its bootstrapping phase.

常见错误:传参失败、结果类型异常、进程启动失败

CPU 密集任务走进程池后,容易在参数传递和返回值上出错,因为跨进程序列化有约束:

立即学习Python免费学习笔记(深入)”;

python全能编程助手
python全能编程助手

SkillSub Pro - Python 题解与代码注释双功能技能功能概述SkillSub Pro - Python 题解与代码注释双功能技能是一项面向实际任务的技能,主要用于SkillSub Pro 是一个 Python 题解生成与代码注释的 双功能合体技能 ,专为学生、算法学习者和开发者设计;✅ 一个技能,两种用途 :;核心要点📝 题解模式 :输入题目/题号,自动生成完整 Python 题解(含详细注释、解题思路、复杂度分析);💬 注释模式 :输入 Python 代码,自动添加详细中。它将相关步骤、

下载
  • 所有参数和返回值必须是可 pickle 的:支持 intstrlistdictnumpy.ndarray(需注意版本兼容),但不支持 threading.Lockgenerator、未绑定的实例方法、嵌套的 lambda
  • 如果函数内部打印日志或调用 print(),输出可能不按预期顺序出现,甚至丢失——进程间 stdout 不共享,也不保证 flush
  • 若函数抛出异常,它会被捕获并作为 concurrent.futures.ProcessPoolExecutorBrokenProcessPool 或普通 Exception 抛回协程,需用 try/except 捕获,而不是忽略
  • 在 Jupyter 或某些 IDE 的交互环境中直接运行含 ProcessPoolExecutor 的代码,常因模块导入路径问题失败;建议封装为独立脚本,并确保入口有 if __name__ == "__main__":

一个最小可行示例(含防坑要点)

以下代码能在终端直接运行,绕开了 Windows 多进程典型启动错误,并验证了 CPU 计算是否真正并发:

import asyncio
import time
from concurrent.futures import ProcessPoolExecutor
from math import factorial
<p>def cpu_intensive(n):</p><h1>纯 CPU 计算,无 IO、无外部依赖</h1><pre class='brush:python;toolbar:false;'>return sum(factorial(i) % 1000000 for i in range(n))

async def main():

显式创建进程池,复用而非每次新建

with ProcessPoolExecutor(max_workers=2) as pool:
    loop = asyncio.get_running_loop()
    # 并发提交两个大计算
    t0 = time.time()
    res1 = loop.run_in_executor(pool, cpu_intensive, 10000)
    res2 = loop.run_in_executor(pool, cpu_intensive, 10000)
    await asyncio.gather(res1, res2)
    print(f"Done in {time.time() - t0:.2f}s")

if name == "main": asyncio.run(main())

注意 if __name__ == "__main__": 这一行不是装饰,是 Windows/macOS 多进程必需的防护;with ProcessPoolExecutor(...) 确保资源及时回收;asyncio.gather 等待全部完成,而非逐个 await——否则就退化成串行。

真正麻烦的从来不是怎么写这十几行,而是函数能不能被子进程正确导入、参数有没有隐式携带不可序列化对象、以及错误发生时堆栈指向的是子进程还是主进程——这些细节不排查清楚,run_in_executor 就只是换个方式卡住而已。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1551

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

3664

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1569

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

20877

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2587

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2647

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1063

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

576

2023.08.10

Vibeknow在线使用入口合集
Vibeknow在线使用入口合集

本专题汇总了Vibeknow在线创作视频的官方入口及网页版使用教程,涵盖PPT、PDF、Word等文档一键转讲解视频的核心操作,并整理了免费版水印规则与手机端浏览器访问指南,助你快速将知识内容视频化。

0

2026.09.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn