讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 进程间通信的常见手段

夏浩吖_2767

夏浩吖_2767

发布时间:2026-01-31 19:03:18

|

714人浏览过

|

来源于php中文网

原创

multiprocessing.Queue适合父-子进程间传小到中等对象,基于pipe+pickle;Pipe更快但仅双端单向;Value/Array用于基础类型共享内存;Event仅作状态通知,不传数据。

python 进程间通信的常见手段

用 multiprocessing.Queue 传数据最直接,但别跨进程多次 get()

它底层基于管道(pipe)+ 序列化(pickle),适合在父进程和子进程之间传递小到中等体积的对象。常见错误是多个子进程都从同一个 Queue 里反复 get() 却没判空,导致阻塞或 Empty 异常。

  • 只在创建它的进程及其派生子进程中使用,不能用于任意两个独立进程
  • put() 和 get() 默认阻塞,加 timeout=1 可防卡死
  • 对象必须可被 pickle,lambda、嵌套函数、带绑定方法的实例都不行
  • 大量高频小数据(如每毫秒一次)会因序列化开销拖慢性能,此时考虑 multiprocessing.Pipe

multiprocessing.Pipe 更快但只能双端通信

返回一对连接对象((conn1, conn2)),一端发、另一端收,不经过序列化(仅对内置类型自动处理),比 Queue 轻量。但它天生是单向或半双工的,且不能被 fork 多次后复用 —— 每个子进程得拿到专属的一端。

  • 若需多对一通信(比如多个 worker 向主进程上报结果),得让每个 worker 持有自己独占的 conn2,主进程用多个 conn1 分别接收
  • 调用 conn.recv() 前建议先用 conn.poll(timeout) 判断是否有数据,避免死等
  • 不可在非创建它的线程中调用 recv() 或 send(),会报 OSError: Bad file descriptor

共享内存用 multiprocessing.Value 和 multiprocessing.Array,但只支持基础类型

它们映射到系统共享内存段,绕过序列化,适合高频读写标量或固定长度数组(如计数器、状态标志、图像 buffer)。但不支持 list、dict、自定义类等动态结构。

python学习
python学习

Python 编程学习助手 skill,面向零基础用户。 当用户表达以下意图时触发: - 学习 Python 基础概念(变量、数据类型、循环、函数、类等) - 请求 Python 练习题或测验 - 请求审查或调试 Python 代码 - 请求 Python 项目实战指导(爬虫、数据分析、Web 开发等入门项目) - 泛化表述如"教我 Python""我想学编程""Python 怎么写""帮我学 Python" 此 skill

下载
  • Value('i', 0) 中的 'i' 是 ctypes 类型码,不是 Python 类型;写错(如用 'int')会静默失败或崩溃
  • 多个进程同时写同一 Value 时不会自动加锁,必须显式用 Lock 包裹读写块
  • Array('d', [1.0, 2.0]) 创建的是只读副本?不对 —— 它是可写的,但初始化值只在创建时拷贝一次,后续修改不自动同步到其他进程的视图里(因为是共享内存,改了就真改了)

跨进程信号用 multiprocessing.Event,但别指望它传数据

本质是包装了系统级事件对象(如 POSIX semaphores),用来做“通知”:一个进程 set(),其他进程 wait() 返回。它不携带任何 payload,纯状态同步。

立即学习“Python免费学习笔记(深入)”;

  • 不能用 Event 替代 Queue 来传递消息,有人误以为 event.set() 后能顺带塞个值进去,实际不行
  • wait() 可设超时,返回 True/False 表示是否等到,别忽略返回值直接假设已触发
  • 父子进程间传递 Event 对象本身没问题,但不要在子进程里重新 Event() 一个同名变量覆盖掉传入的那个
真正麻烦的是混合场景:既要低延迟共享状态,又要可靠传复杂结构,还得支持 N 对 N 通信。这时候得组合用 —— 比如用 Value 做运行标志,Pipe 传关键指令,Queue 塞日志行。没人规定只能选一种。

热门AI工具

更多
音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

6499

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3165

2024.08.29

c++怎么把double转成int
c++怎么把double转成int

本专题整合了 c++ double相关教程,阅读专题下面的文章了解更多详细内容。

4068

2025.08.29

C++中int的含义
C++中int的含义

本专题整合了C++中int相关内容,阅读专题下面的文章了解更多详细内容。

2805

2025.08.29

lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

1031

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

345

2025.11.08

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

554

2026.01.05

C++ Lambda 表达式与函数式编程
C++ Lambda 表达式与函数式编程

深入讲解 C++ Lambda 表达式与函数式编程范式,涵盖 Lambda 基础语法与返回值推导、值捕获与引用捕获的区别与陷阱、初始化捕获(C++14 广义捕获)、泛型 Lambda(auto 参数)、mutable 关键字修改捕获变量、std::function 类型擦除与函数包装、std::bind 参数绑定(及其被 Lambda 替代的趋势)、Lambda 在 STL 算法(sort/transform/for_each/remo

689

2026.05.06

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn