讲师中心 微信公众号

工具推荐

视频效率加速
立刻MV
立刻MV

低成本歌曲 MV、视频生成

剧云
剧云

中文短剧剧本制作平台

AniShort
AniShort

AI短剧协同制作平台

Laper
Laper

剧本策划到成片协作

高效过滤Pandas DataFrame:基于分组条件提取子集

夏萱君_7915

夏萱君_7915

发布时间:2025-11-26 13:45:02

|

313人浏览过

|

来源于php中文网

原创

高效过滤pandas dataframe:基于分组条件提取子集

本教程详细阐述了如何利用Pandas的`groupby().transform()`方法,根据分组聚合条件高效地从DataFrame中提取特定行子集。文章通过一个实际案例,演示了如何在不创建额外辅助列的情况下,筛选出那些在特定分组(如日期和地点组合)中拥有超过指定数量(例如两个)唯一代理的全部记录,从而实现数据清洗和分析的精确控制。

基于分组聚合条件筛选Pandas DataFrame

在数据分析中,我们经常需要根据复杂的条件从DataFrame中筛选数据。其中一种常见场景是,我们需要基于某个分组(group)的聚合结果来筛选原始DataFrame中的所有行。例如,我们可能希望找出所有属于“某分组满足特定条件”的记录,而不是仅仅获取聚合后的结果。Pandas提供了groupby().transform()方法,能够优雅且高效地解决此类问题,避免了创建冗余的中间列。

场景描述与初始数据

假设我们有一个销售代理活动记录的DataFrame,包含日期(date)、地点(point)和代理(agent)信息。我们的业务规则是,在每个特定日期和地点组合下,通常应该只有两名代理活跃。现在,我们需要识别并提取出所有那些违反此规则的记录,即在某个日期和地点组合下,活跃代理数量超过两名的所有行。

以下是示例数据:

import pandas as pd
from io import StringIO

data = """date|point|agent
2023-10-02|A|agent1
2023-10-02|A|agent2
2023-10-05|B|agent3
2023-10-05|B|agent2
2023-10-02|C|agent1
2023-10-02|C|agent2
2023-10-02|C|agent3"""

df = pd.read_csv(StringIO(data), sep='|')
print("原始DataFrame:")
print(df)

输出的DataFrame如下:

原始DataFrame:
         date point   agent
0  2023-10-02     A  agent1
1  2023-10-02     A  agent2
2  2023-10-05     B  agent3
3  2023-10-05     B  agent2
4  2023-10-02     C  agent1
5  2023-10-02     C  agent2
6  2023-10-02     C  agent3

解决方案:使用 groupby().transform()

要解决上述问题,核心在于:

  1. 计算每个 (date, point) 组合中唯一代理的数量。
  2. 基于这个数量判断该组合是否满足“唯一代理数 > 2”的条件。
  3. 使用这个判断结果作为布尔掩码来筛选原始DataFrame。

groupby().transform() 方法在这里发挥了关键作用。与 groupby().agg() 不同,transform() 在执行聚合操作后,会将结果“广播”回原始DataFrame的索引,生成一个与原始DataFrame行数相同的Series。这意味着我们可以直接将其用于布尔索引。

步骤详解

  1. 分组并计算唯一值数量: 我们首先按 ['point', 'date'] 进行分组,然后对 agent 列应用 nunique(计算唯一值数量)聚合函数。关键在于使用 transform 而不是 agg。

    unique_agents_per_group = df.groupby(['point', 'date'])['agent'].transform('nunique')
    print("\n每个组的唯一代理数 (transform 结果):")
    print(unique_agents_per_group)

    输出结果是一个Series,其索引与原始DataFrame的索引一致,每个值代表对应行所属分组的唯一代理数量:

    每个组的唯一代理数 (transform 结果):
    0    2
    1    2
    2    2
    3    2
    4    3
    5    3
    6    3
    Name: agent, dtype: int64
  2. 创建布尔掩码: 接下来,我们将这个Series与我们的条件进行比较,生成一个布尔Series。

    condition_mask = unique_agents_per_group > 2
    print("\n布尔掩码:")
    print(condition_mask)

    输出的布尔掩码:

    布尔掩码:
    0    False
    1    False
    2    False
    3    False
    4     True
    5     True
    6     True
    Name: agent, dtype: bool
  3. 筛选原始DataFrame: 最后,我们将这个布尔掩码直接应用于原始DataFrame进行筛选。

    filtered_df = df[condition_mask]
    print("\n筛选后的DataFrame:")
    print(filtered_df)

    输出结果:

    筛选后的DataFrame:
             date point   agent
    4  2023-10-02     C  agent1
    5  2023-10-02     C  agent2
    6  2023-10-02     C  agent3

完整代码示例

将上述步骤整合到一行代码中,可以实现更加简洁高效的解决方案:

import pandas as pd
from io import StringIO

data = """date|point|agent
2023-10-02|A|agent1
2023-10-02|A|agent2
2023-10-05|B|agent3
2023-10-05|B|agent2
2023-10-02|C|agent1
2023-10-02|C|agent2
2023-10-02|C|agent3"""

df = pd.read_csv(StringIO(data), sep='|')

# 一行代码实现筛选
filtered_df_one_liner = df[df.groupby(['point', 'date'])['agent'].transform('nunique') > 2]

print("使用一行代码筛选后的DataFrame:")
print(filtered_df_one_liner)

输出结果与分步执行相同:

使用一行代码筛选后的DataFrame:
         date point   agent
4  2023-10-02     C  agent1
5  2023-10-02     C  agent2
6  2023-10-02     C  agent3

注意事项与总结

  • 效率优势: 这种方法避免了向原始DataFrame添加临时列,从而节省了内存,并且在处理大型数据集时通常更高效。
  • 灵活性: transform() 方法不仅限于 nunique。你可以将其与其他聚合函数(如 sum, mean, max, min, size 等)结合使用,以应对各种基于分组聚合的筛选需求。
  • 通用性: 这种模式是Pandas中处理“根据分组聚合结果筛选原始数据”问题的标准且推荐方法。
  • 错误避免: 尝试直接使用 loc 或 where 结合 groupby().agg() 可能会遇到索引不匹配的问题,因为 agg 返回的Series或DataFrame的索引是分组键,而不是原始DataFrame的索引。transform() 完美解决了这一问题,因为它保证了输出的索引与原始DataFrame一致。

通过掌握 groupby().transform() 的用法,你可以更有效地在Pandas中进行复杂的数据筛选和清洗,提高代码的可读性和执行效率。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

360

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

871

2026.04.13

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

20

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

20

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

40

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

40

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

40

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
誉天教育RHCE视频教程
誉天教育RHCE视频教程

共9课时 | 1.8万人学习

尚观Linux RHCE视频教程(二)
尚观Linux RHCE视频教程(二)

共34课时 | 7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn