讲师中心 微信公众号
AI工具推荐 视频效率加速

Python分布式机器学习框架_Ray与Dask任务调度与并行计算

云杰小哥_7054

云杰小哥_7054

发布时间:2026-03-25 10:11:14

|

760人浏览过

|

来源于php中文网

原创

Ray 的 ray.remote 默认返回 ObjectRef 是因异步设计,需用 ray.get() 获取真实结果;Dask Delayed 链式调用出错多因依赖图异常;二者 map_partitions 行为差异在于 Dask 保留分区结构而 Ray 不保证顺序;本地启动失败常因端口冲突或环境问题。

python分布式机器学习框架_ray与dask任务调度与并行计算

Ray 的 ray.remote 函数为什么总返回 object ref 而不是真实结果?

因为 ray.remote 默认异步执行,返回的是一个未来对象(ObjectRef),不是值本身。直接 print 会看到类似 ObjectRef(01000000ffffffffffffffff...) 的东西,不是 bug,是设计使然。

  • 要拿到真实结果,必须显式调用 ray.get() —— 比如 ray.get(future),否则永远拿不到计算值
  • 如果函数返回多个值(如 return a, b),ray.get() 返回的是元组,不是解包后的变量,别漏了括号
  • 在 driver 进程里混用同步逻辑时,容易忘记加 ray.get(),导致后续代码传入 ref 而非数据,报错如 TypeError: unsupported operand type(s) for +: 'ObjectRef' and 'int'
  • 调试时可临时加 print(ray.get(future)),但生产环境避免频繁调用 ray.get() 阻塞调度器

Dask Delayed 为啥链式调用后 .compute() 报 KeyError 或卡住?

常见于依赖图构建错误:比如变量名重复、闭包捕获了不可序列化的对象(如文件句柄、本地线程锁)、或 delayed 套嵌过深没触发实际调度。

  • 确保所有被 @delayed 装饰的函数只依赖明确传入的参数,不读取外部作用域的 mutable 对象(如全局 list、class 实例)
  • 避免在 delayed 函数内部调用 dask.delayed(...).compute() —— 这会在 worker 进程里试图启动新 scheduler,直接死锁
  • 检查 client = Client(...) 是否已启动;没连集群时 .compute() 会 fallback 到单机线程池,但某些 IO 密集任务仍可能因资源争抢卡住
  • 用 task_graph = delayed_func.visualize() 看 DAG 图,能快速发现断开的边或孤立节点

Ray 和 Dask 在处理 Pandas DataFrame 分片时,map_partitions 行为差异在哪?

两者都支持分片处理,但语义和容错机制完全不同:Dask 的 map_partitions 是 lazy 的,且默认保留分区结构;Ray 的 ray.data.map_batches(对应功能)则强制重分区、无状态、不保证顺序。

Li Python Sec Check
Li Python Sec Check

Python 安全规范检查工具:基于 CloudBase 规范、腾讯安全指南,LLM 智能分析(默认禁用,优先本地执行)

下载
  • Dask:df.map_partitions(lambda part: part.assign(x=part.a * 2)) 中,part 是真实 pandas.DataFrame,可任意操作,且输出 shape 必须与输入一致(否则需配 meta=...)
  • Ray:ds.map_batches(lambda batch: batch.assign(x=batch["a"] * 2), batch_format="pandas") 中,batch 是 pandas DataFrame,但整个 pipeline 不维护索引连续性,下游无法做 .loc 精确切片
  • 若原始数据有时间索引并需按时间窗口聚合,Dask 更稳妥;若只是 ETL 清洗+写入对象存储,Ray 吞吐更高但得自己 handle 分区边界
  • 二者都不建议在 map 里打开数据库连接——Dask 会复用 worker 进程,Ray 默认每个 task 新启进程,连接泄漏风险更大

本地开发时 ray.init() 和 Client() 启动失败,常见原因是什么?

不是端口冲突就是环境隔离问题。Ray 默认绑定 localhost:6379(Redis),Dask Client 默认连 localhost:8786,但很多本地工具(如 Docker Desktop、Homebrew Redis)已占用了这些端口。

立即学习“Python免费学习笔记(深入)”;

  • Ray 启动失败常见错误:ConnectionError: Unable to connect to Redis... → 改用 ray.init(ignore_reinit_error=True, log_to_driver=False) 并加 address="auto" 让它选空闲端口
  • Dask Client 连不上:OSError: [Errno 61] Connection refused → 先运行 python -m dask.scheduler 确认 scheduler 起来了,再 Client("tcp://localhost:8786")
  • Mac M1/M2 用户注意:Ray 2.9+ 才原生支持 arm64,旧版本装 pip install "ray[default]" --force-reinstall --no-deps 可能缺 wheel,直接报 ImportError: dlopen(...libraylet.dylib): no suitable image found
  • 虚拟环境里混装 conda/pip 包容易导致 protobuf 版本冲突,表现为 AttributeError: module 'google.protobuf.descriptor' has no attribute 'MakeDescriptor',统一用 pip 重装 protobuf==3.20.* 通常能解

事情说清了就结束。真正麻烦的从来不是怎么启动,而是当任务跑在 50 个 worker 上开始 shuffle 数据时,你才发现某台机器的 ulimit 没调、磁盘快满了、或者某个 lambda 函数悄悄把整个 DataFrame 加载进了闭包。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1671

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

4184

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1669

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

24257

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2967

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2987

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1163

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

596

2023.08.10

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

0

2026.10.08

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn