讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Python中实现带优先级的异步任务队列?

冬强酱_3935

冬强酱_3935

发布时间:2026-07-10 08:03:20

|

829人浏览过

|

来源于php中文网

原创

asyncio.PriorityQueue不是开箱即用的异步优先队列,因其线程不安全、仅限单事件循环、无取消感知与超时控制,且优先级值越小越先出队;需封装支持超时与任务取消,并在业务层引入公平性约束防止低优先级任务饿死。

如何在python中实现带优先级的异步任务队列?

为什么 asyncio.PriorityQueue 不是开箱即用的“异步优先队列”?

因为 asyncio.PriorityQueue 本身是线程不安全的,且只在协程上下文中工作——它不能直接被多个事件循环或不同线程调用。更关键的是,它的 get() 和 put() 是 awaitable,但**没有内置的取消感知或超时控制**,一旦某个高优先级任务卡住(比如 await 了一个永不 resolve 的 Future),低优先级任务就会无限阻塞。

  • 它底层基于 heapq,优先级值越小越先出队(注意不是“越大越优先”)
  • 所有操作必须在同一个 asyncio.EventLoop 中执行;跨 loop 调用会抛 RuntimeError: Task attached to a different loop
  • 如果 put 时传入非可比较对象(如 dict、自定义类没实现 __lt__),会直接 raise TypeError

如何让优先级队列支持任务取消和超时?

直接封装 asyncio.PriorityQueue,在 get() 上加 timeout,并对每个任务包装成带 cancel 支持的 asyncio.Task:

import asyncio
from typing import Any, Callable, Awaitable
<p>class PriorityTaskQueue:
def <strong>init</strong>(self):
self._queue = asyncio.PriorityQueue()
self._shutdown = False</p><pre class="brush:php;toolbar:false;">async def put(self, priority: int, coro: Awaitable, *args, **kwargs):
    # 用 task 包装,便于后续 cancel
    task = asyncio.create_task(coro(*args, **kwargs))
    await self._queue.put((priority, task))

async def get(self, timeout: float = None) -> asyncio.Task:
    try:
        _, task = await asyncio.wait_for(self._queue.get(), timeout=timeout)
        return task
    except asyncio.TimeoutError:
        raise TimeoutError("No task available within timeout")

async def join(self):
    while not self._queue.empty():
        await self._queue.join()

注意:这里把 coro 提前转成 Task,而不是存函数——否则 get 出来还要再 await,就失去“按优先级调度执行”的意义了。

立即学习“Python免费学习笔记(深入)”;

python-script-generator
python-script-generator

快速生成专业的 Python 脚本和应用代码。一键创建完整项目结构,支持CLI、API、爬虫、Bot、Django等多种项目类型,包含完整的项目结构、配置文件、依赖管理、测试、README和文档。

下载

怎么避免高优先级任务饿死低优先级任务?

纯 heapq 实现的优先队列容易导致“优先级倾轧”:只要不断有 priority=0 的任务进来,priority=5 的任务永远没机会执行。解决办法不是改算法,而是**在业务层引入“公平性约束”**:

  • 使用滑动窗口计数:记录过去 N 秒内 priority ≤ 1 的任务数量,超过阈值则自动降权(例如临时 +2)
  • 给每个优先级设置最大连续执行次数(如最多连跑 3 个 high-priority 任务,就强制 yield 一次 await asyncio.sleep(0))
  • 用时间戳 + 优先级复合键:(priority, timestamp),保证相同优先级下先进先出,防止老任务被新同级任务无限插队

示例复合键写法:await queue.put((priority, time.time(), task_id), task) —— 注意必须确保 time.time() 在 put 时计算,不能在 task 内部懒算。

生产环境要注意 asyncio.Queue 和 PriorityQueue 的混用陷阱

别在同一个队列里既用 asyncio.Queue 又用 asyncio.PriorityQueue 做“混合调度”。它们的内部锁机制不同:PriorityQueue 用的是 asyncio.Lock,而普通 Queue 默认用 asyncio.Semaphore 控制 size,混用会导致 get() 行为不一致,甚至死锁。

  • 如果你需要“有限容量 + 优先级”,必须用 asyncio.PriorityQueue(maxsize=N),不要试图用 Queue 套一层再排序
  • PriorityQueue 的 qsize() 返回的是当前堆长度,但 empty() 和 full() 的判断逻辑跟 Queue 不同——它不检查 maxsize 是否已满,除非你显式传了 maxsize
  • 调试时打印队列内容?别直接 print(queue._queue._queue),那是内部 heap list,顺序不直观;要用 list(queue._queue._queue) 并手动 heapify 检查,或者改用 queue._queue.queue(Python 3.12+ 已改为 _queue 属性)

真正麻烦的不是实现,而是优先级语义怎么跟业务对齐:是紧急程度?资源权重?还是 SLA 等级?这些没法靠数据结构解决,得靠上游任务生成逻辑兜底。

热门AI工具

更多
火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1651

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4124

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1669

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

23897

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2927

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2967

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1143

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn