讲师中心 微信公众号
AI工具推荐 视频效率加速

Python dask 的并行数据处理实践

落伟同学_4881

落伟同学_4881

发布时间:2026-02-13 22:31:54

|

755人浏览过

|

来源于php中文网

原创

dask.delayed 更适合数据流水线因其构建可调度的DAG,支持中间复用、条件分支与失败重算;而concurrent.futures仅适用于独立函数调用。

python dask 的并行数据处理实践

为什么 dask.delayed 比直接用 concurrent.futures 更适合数据流水线?

dask.delayed 不是简单地把函数扔进线程池,而是构建一个延迟执行的有向无环图(DAG),后续能做任务调度、重试、内存感知和跨节点分发。你写的是“做什么”,不是“怎么做”——这在处理多阶段 ETL 时特别关键。

  • 如果你只是跑几个独立函数,concurrent.futures.ThreadPoolExecutor 更轻量、启动更快
  • 但只要涉及中间结果复用(比如 A → B → C,同时 B → D)、条件分支或部分失败重算,dask.delayed 的图能力立刻显出价值
  • 注意:所有被 @dask.delayed 装饰的函数,返回值会自动包装成 Delayed 对象;直接 print 或取值会触发计算,别在定义阶段就调 .compute()
@delayed
def load_csv(path):
    return pd.read_csv(path)
<p>@delayed<br />
def clean(df):
return df.dropna()</p><h1>这里没计算,只建图</h1><p>cleaned = clean(load_csv("data.csv"))</p>

dask.dataframe 读 CSV 卡住或内存暴涨?检查这三件事

dask.dataframe.read_csv 默认按行数切分块(blocksize),但实际切分依赖文件是否含换行符、压缩格式、是否有 header 行——这些都会让块大小失控,导致某一块巨长、其他块为空,甚至卡死在元数据探测阶段。

  • 确保文件是纯文本、LF 换行、无嵌入换行符的 CSV;如果用 Excel 导出,先用 dos2unix 或 Python 清洗一遍
  • 显式指定 blocksize="64MB"(别用字节硬算,用字符串如 "128MB"),并配合 sample=10000 控制 schema 推断采样行数
  • 遇到 OSError: [Errno 22] Invalid argument,大概率是 Windows 下路径含中文或 UNC 路径未转义,改用 r"\server\path" 或正斜杠

本地运行 dask.distributed.Client 反而比单线程慢?常见配置误用

开一个本地 Client(n_workers=4, threads_per_worker=1) 听起来合理,但默认会启用 dashboard(Web UI)、心跳检测、序列化/反序列化日志——对小数据集(<100MB)来说,这些开销远超计算收益。

Galileo python sdk
Galileo python sdk

Galileo AI 平台 Python SDK 完整参考,用于评估、监控和保护 GenAI 应用,适用于构建 Python 应用。

下载

立即学习“Python免费学习笔记(深入)”;

  • 小规模调试优先用 scheduler="threads" 或 scheduler="synchronous",完全绕过调度器
  • 必须用 Client 时,关掉不需要的功能:dashboard_address=None、silence_logs=logging.ERROR
  • Client 启动后默认连接 localhost:8786,如果端口被占,会静默 fallback 到随机端口——查 client.dashboard_link 才知道它到底在哪,别猜

用 dask.array 处理图像堆栈却报 Array chunk size too large

dask.array 把大数组切块(chunks)来并行,但图像数据维度固定(如 (1000, 1024, 1024)),若 chunk 设置不当,容易生成单块超 1GB 的内存块,触发 ValueError。

  • 别用 chunks=-1 或 chunks=(1000, "auto", "auto")——"auto" 在高维下可能把第一维全塞进一块
  • 图像堆栈推荐按切片维度拆:如 chunks=(1, 512, 512),确保每块最多一张图的一部分
  • 用 da.from_array(arr, chunks=(1, 512, 512)).persist() 替代直接计算,避免重复加载原始数据

事情说清了就结束。真正卡住的地方,往往不在代码怎么写,而在你默认相信的“自动行为”——比如 dask 怎么猜 CSV 分隔符、怎么选 chunk 大小、怎么处理缺失值传播——这些细节不盯住,图建得再漂亮也跑不起来。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

相关专题

更多
python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

2700

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

249

2026.02.03

scripterror怎么解决
scripterror怎么解决

scripterror的解决办法有检查语法、文件路径、检查网络连接、浏览器兼容性、使用try-catch语句、使用开发者工具进行调试、更新浏览器和JavaScript库或寻求专业帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

949

2023.10.18

500error怎么解决
500error怎么解决

500error的解决办法有检查服务器日志、检查代码、检查服务器配置、更新软件版本、重新启动服务、调试代码和寻求帮助等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2740

2023.10.25

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1678

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2524

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5984

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

5389

2023.11.24

PixTV官网入口地址合集
PixTV官网入口地址合集

本专题汇总了 PixTV AI 一站式视频创作平台的官方入口与使用教程。无需下载软件,浏览器直接访问即可使用。平台将剧本、图像、视频、声音与剪辑整合在“无限画布”中,接入 GPT Image 2.5、Seedance 2.5 等头部模型。本专题整理了从新建画布、角色锚定、分镜拆分到视频生成与导出的完整操作指南,助你快速上手 AI 短剧与漫剧创作。

40

2026.10.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn