讲师中心 微信公众号
AI工具推荐 视频效率加速

Python多线程如何提升计算效率 Python多线程并行计算实战

浅静姑娘_4532

浅静姑娘_4532

发布时间:2025-11-14 15:58:02

|

305人浏览过

|

来源于php中文网

原创

Python多线程适用于IO密集型任务如网络请求、文件读写和数据库查询,因GIL限制不适用于CPU密集型任务;1. 多线程可提升IO等待期间的资源利用率;2. 实战中使用threading模块或concurrent.futures可显著缩短批量请求耗时;3. CPU密集型任务应改用multiprocessing模块以绕过GIL实现并行计算。

python多线程如何提升计算效率 python多线程并行计算实战

Python多线程在提升计算效率方面有其特定适用场景,但需注意语言本身的限制。由于全局解释器锁(GIL)的存在,Python中的多线程并不能真正实现CPU密集型任务的并行执行。然而,在IO密集型任务中,多线程能显著提高程序的响应速度和资源利用率。

多线程适合的场景

理解何时使用多线程是关键。以下类型的任务更适合用多线程处理:

  • 网络请求:如同时抓取多个网页内容,等待时间远大于计算时间
  • 文件读写操作:涉及磁盘IO时,线程可在等待期间切换执行其他任务
  • 数据库查询:多个独立查询可并发发起,减少总耗时

实战:使用threading模块进行并行请求

以批量获取网页标题为例,展示多线程如何缩短整体执行时间:

import threading
import requests
from bs4 import BeautifulSoup
import time
<p>def fetch_title(url, results, index):
try:
response = requests.get(url, timeout=5)
soup = BeautifulSoup(response.text, 'html.parser')
title = soup.find('title').get_text() if soup.find('title') else 'No Title'
results[index] = title
except Exception as e:
results[index] = f"Error: {e}"</p><p>urls = [
"<a href="https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c">https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c</a>",
"<a href="https://www.php.cn/link/ef246753a70fce661e16668898810624">https://www.php.cn/link/ef246753a70fce661e16668898810624</a>",
"<a href="https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c">https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c</a>"
]</p><h1>单线程执行</h1><p>start = time.time()
results_single = []
for i, url in enumerate(urls):
temp_results = [None]
fetch_title(url, temp_results, 0)
results_single.append(temp_results[0])
print(f"单线程耗时: {time.time() - start:.2f}秒")</p><h1>多线程执行</h1><p>start = time.time()
threads = []
results_multi = [None] * len(urls)
for i, url in enumerate(urls):
t = threading.Thread(target=fetch_title, args=(url, results_multi, i))
threads.append(t)
t.start()</p><p>for t in threads:
t.join()</p><p>print(f"多线程耗时: {time.time() - start:.2f}秒")
print("结果:", results_multi)</p>

使用concurrent.futures简化线程管理

对于更简洁的代码结构,推荐使用concurrent.futures.ThreadPoolExecutor:

立即学习“Python免费学习笔记(深入)”;

Python数据分析(专业版)
Python数据分析(专业版)

企业级Python数据分析方案,支持机器学习建模、时间序列预测、大数据处理与自动化报表。

下载
from concurrent.futures import ThreadPoolExecutor
import requests
<p>def get_status(url):
try:
return requests.get(url, timeout=3).status_code
except:
return -1</p><p>with ThreadPoolExecutor(max_workers=5) as executor:
urls = ["<a href="https://www.php.cn/link/98a733901e53052474f2320d0a3a9473">https://www.php.cn/link/98a733901e53052474f2320d0a3a9473</a>"] * 10
statuses = list(executor.map(get_status, urls))
print("状态码:", statuses)</p>

这种方式自动管理线程生命周期,避免手动创建和join线程,代码更清晰且不易出错。

CPU密集型任务的替代方案

若任务主要为数值计算、图像处理等CPU密集型操作,应考虑使用multiprocessing模块绕过GIL限制:

from multiprocessing import Pool
import math
<p>def cpu_task(n):
return sum(i * i for i in range(n))</p><p>if <strong>name</strong> == '<strong>main</strong>':
data = [100000] * 8
with Pool(4) as p:
result = p.map(cpu_task, data)
print("计算完成")</p>

多进程能真正利用多核优势,适合纯计算场景。

基本上就这些。选择多线程还是多进程,取决于任务类型。IO等待多就用线程,计算重就用进程。合理使用工具,才能有效提升效率。

热门AI工具

更多
讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

3558

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

1029

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

343

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

499

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

349

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

193

2026.03.16

Java 多线程与并发编程实战
Java 多线程与并发编程实战

深入讲解 Java 并发编程体系,涵盖 Thread / Runnable / Callable 线程创建方式、线程生命周期与状态转换、synchronized 同步锁与 Lock/ReentrantLock 显式锁、volatile 可见性保证、ThreadPool 线程池配置与调优(核心参数/拒绝策略)、JUC 并发工具类(CountDownLatch/CyclicBarrier/Semaphore/ConcurrentHashMa

289

2026.04.17

C++ 多线程使用教程大全
C++ 多线程使用教程大全

系统讲解 C++11 及后续标准引入的多线程编程能力,涵盖 std::thread 线程创建与生命周期管理、std::mutex / shared_mutex 互斥锁与读写锁、std::condition_variable 条件变量同步、std::atomic 原子操作与内存序(memory_order)、std::future / promise / async 异步任务、线程池的设计与实现、死锁检测与避免策略,帮助开发者编写正确高效

176

2026.04.28

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

80

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn