讲师中心 微信公众号
AI工具推荐 视频效率加速

Polars GroupBy:高效忽略 NaN 计算分组均值的正确方法

风敏大大_2115

风敏大大_2115

发布时间:2025-12-29 17:05:17

|

707人浏览过

|

来源于php中文网

原创

Polars GroupBy:高效忽略 NaN 计算分组均值的正确方法

在 polars 中,`mean()` 默认不自动忽略 nan;推荐使用 `drop_nans()` 预过滤或 `fill_nan(none)` 转换空值,二者均能正确计算分组均值,且性能优异、完全向量化。

当使用 Polars 进行分组聚合(如 group_by(...).agg(...))并计算数值列均值时,一个常见误区是认为 pl.col("values").mean() 会像 pandas 一样自动跳过 NaN —— 实际上,Polars v0.19.19+ 的 mean() 对含 NaN 的 Series 默认返回 NaN,导致整组结果失效(如示例中 group "A" 得到 NaN 而非 1.0)。

✅ 正确且高效的解决方案是在调用 mean() 前主动处理 NaN,而非依赖 .map_elements() 等非向量化方式(其性能差、无法利用 Polars 引擎优化)。以下是两种推荐做法:

✅ 方法一:drop_nans() —— 直观清晰,语义明确

import polars as pl
import numpy as np

test_data = pl.DataFrame({
    "group": ["A", "A", "B", "B"],
    "values": [1.0, np.nan, 2.0, 3.0]
})

result = test_data.group_by("group").agg(
    pl.col("values").drop_nans().mean().alias("mean_ignore_nan")
)
print(result)

输出:

shape: (2, 2)
┌───────┬────────────────┐
│ group ┆ mean_ignore_nan │
│ ---   ┆ ---             │
│ str   ┆ f64             │
╞═══════╪═════════════════╡
│ A     ┆ 1.0             │
│ B     ┆ 2.5             │
└───────┴─────────────────┘

drop_nans() 会物理移除所有 NaN 值(保留 null 不变),后续 mean() 在纯数值序列上运行,结果准确且高效。

✅ 方法二:fill_nan(None) —— 性能更优(尤其大数据量)

result = test_data.group_by("group").agg(
    pl.col("values").fill_nan(None).mean().alias("mean_ignore_nan")
)

该方法将 NaN 转换为 null,而 Polars 的聚合函数(包括 mean())原生忽略 null —— 这与 drop_nans() 逻辑等价,但底层更轻量,避免了数据重排。

python学习
python学习

Python 编程学习助手 skill,面向零基础用户。 当用户表达以下意图时触发: - 学习 Python 基础概念(变量、数据类型、循环、函数、类等) - 请求 Python 练习题或测验 - 请求审查或调试 Python 代码 - 请求 Python 项目实战指导(爬虫、数据分析、Web 开发等入门项目) - 泛化表述如"教我 Python""我想学编程""Python 怎么写""帮我学 Python" 此 skill

下载

? 性能对比(1 亿行,20% NaN):

  • drop_nans().mean():≈ 1.21 秒
  • fill_nan(None).mean():≈ 0.74 秒(快约 1.6×)

⚠️ 注意:性能优势随分组数增加可能减弱(因 fill_nan 在多组场景下并行度略低),但对绝大多数业务规模(百万级以下),差异可忽略;优先选择语义更直观的 drop_nans(),仅在极端性能敏感场景选用 fill_nan(None)。

❌ 避免方案:map_elements + np.nanmean

# ❌ 不推荐:失去向量化优势,速度慢、不可扩展
pl.col("values").map_elements(lambda x: np.nanmean(x.to_numpy()))

该写法强制转为 NumPy 数组并逐组 Python 调用,完全绕过 Polars 查询引擎优化,应严格避免。

✅ 总结建议

场景 推荐方法 理由
一般用途、代码可读性优先 drop_nans().mean() 语义直白,行为确定,维护友好
百万级以上数据、极致性能要求 fill_nan(None).mean() 底层更高效,实测提速显著
需同时处理 NaN 和 null 统一先 fill_nan(None) 再聚合 确保两者均被忽略

无论哪种方式,都确保了与 pandas .groupby(...).mean() 一致的行为——安全、正确、高性能。

热门AI工具

更多
立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

631

2026.04.13

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

549

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1698

2024.03.01

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

40

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

20

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

20

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn