讲师中心 微信公众号

工具推荐

视频效率加速
Seko
Seko

AI短剧一键生成成片

剧云
剧云

中文短剧剧本制作平台

updream

一键生成高质量推广成片

Laper
Laper

剧本策划到成片协作

Python concurrent.futures 的线程池大小经验公式

星浩君_9602

星浩君_9602

发布时间:2026-02-20 14:47:16

|

421人浏览过

|

来源于php中文网

原创

线程池大小需按任务类型设定:CPU密集型用os.cpu_count()或+1,I/O密集型用cpu_count()×2至×8,混合型常用×4;max_workers是并发上限,非预分配数,需结合系统资源与任务粒度动态调整。

python concurrent.futures 的线程池大小经验公式

线程池大小设成 CPU 核心数 × 5 就行?

不行,这个数字对 I/O 密集型任务偏小,对 CPU 密集型任务又太大。线程池不是越大越好,关键看任务类型——CPU 密集型任务用太多线程反而触发频繁上下文切换,拖慢整体速度;I/O 密集型任务则需要足够线程来“等”网络、磁盘响应,空转时不占 CPU。

实操建议:

  • 先明确任务性质:requests.get()、open()、数据库查询属于 I/O 密集;纯数值计算、图像处理、加密解密属于 CPU 密集
  • CPU 密集型:线程数 ≈ os.cpu_count() 或 os.cpu_count() + 1,再多基本白搭
  • I/O 密集型:从 os.cpu_count() * 2 起步,逐步加到 os.cpu_count() * 8 左右,观察系统负载和任务完成时间拐点
  • 混合型(比如一边读文件一边算哈希):优先按 I/O 占比调,通常 os.cpu_count() * 4 是较稳的起点

ThreadPoolExecutor(max_workers=...) 的 max_workers 到底怎么填

max_workers 是硬上限,不是预分配数。它控制的是「同一时刻最多有几个线程在跑」,超出的任务会排队等待空闲线程。填得太小,队列积压;填得太大,线程创建/销毁开销和内存占用明显上升,尤其在短生命周期任务中。

常见错误现象:

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载
  • 设了 max_workers=1000,结果 ps aux | grep python 看到几百个 Thread-,内存涨得飞快,但总耗时没变短
  • 设了 max_workers=1,所有任务串行,明明是网络请求却比单线程还慢(因为 ThreadPoolExecutor 自身调度也有微小开销)

实操建议:

  • 避免写死数字,改用动态值:max_workers=os.cpu_count() * 4 if 'io' in workload_type else os.cpu_count()
  • 如果任务本身带超时(如 requests.get(..., timeout=5)),可适当放大线程数——失败后线程快速释放,不会卡死
  • Linux 下注意 /proc/sys/kernel/threads-max 和 ulimit -u,线程数超限会抛 OSError: can't start new thread

为什么开了 20 个线程,top 里看到的 CPU 使用率才 120%

这是正常现象,说明有线程在等 I/O,没占满 CPU。Python 的 ThreadPoolExecutor 不会把线程绑到特定核上,调度由 OS 决定;而且 CPython 的 GIL 让纯 Python 计算无法并行,只有 I/O 操作或调用 C 扩展(如 requests 底层的 libcurl)时才会真正释放 GIL 并发执行。

性能影响要点:

  • GIL 不影响 I/O 并发效率,所以 requests、sqlite3、open() 这类操作仍能靠多线程提速
  • 纯 sum([x**2 for x in range(10**7)]) 这种计算,开 20 个线程和开 1 个几乎一样慢
  • 想榨干 CPU,该用 multiprocessing 或 concurrent.futures.ProcessPoolExecutor,别在线程上硬扛

线程池大小和系统资源冲突的典型信号

不是报错才叫出问题。以下表现往往意味着 max_workers 设得不合理:

  • 任务平均延迟突然变长,且 executor.submit(...) 返回的 Future 对象长时间处于 running 状态却不 finish
  • htop 里看到大量线程状态为 S(sleeping),但 CPU 利用率低、磁盘 I/O 高——说明线程都在等响应,池子可能不够大
  • 程序运行一阵后抛 BrokenPipeError 或 ConnectionResetError,尤其在高频 HTTP 请求场景下——线程过多导致目标服务限流或本地端口耗尽(netstat -an | grep TIME_WAIT | wc -l 超过 6w 就危险)
  • 日志里反复出现 concurrent.futures._base.TimeoutError,但单次请求其实很快——大概率是队列太长,任务等不到线程就超时了

最容易被忽略的一点:线程池大小不是孤立参数,它和任务粒度强相关。100 个 10ms 的请求,用 10 个线程比用 100 个更稳;但 10 个 5s 的请求,100 个线程就容易把系统拖垮。调参前先看单任务耗时分布。

热门AI工具

更多
创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

4758

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1329

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

443

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

599

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

449

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

273

2026.03.16

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

389

2026.04.17

C++ 多线程使用教程大全
C++ 多线程使用教程大全

系统讲解 C++11 及后续标准引入的多线程编程能力,涵盖 std::thread 线程创建与生命周期管理、std::mutex / shared_mutex 互斥锁与读写锁、std::condition_variable 条件变量同步、std::atomic 原子操作与内存序(memory_order)、std::future / promise / async 异步任务、线程池的设计与实现、死锁检测与避免策略,帮助开发者编写正确高效

256

2026.04.28

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn