讲师中心 微信公众号

工具推荐

视频效率加速
剧云
剧云

中文短剧剧本制作平台

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Laper
Laper

剧本策划到成片协作

Seko
Seko

AI短剧一键生成成片

Pandas 中基于多列条件与分组逻辑的高效数据筛选教程

秋枫君_1097

秋枫君_1097

发布时间:2026-02-26 10:19:02

|

911人浏览过

|

来源于php中文网

原创

Pandas 中基于多列条件与分组逻辑的高效数据筛选教程

本文介绍如何在 Pandas 中结合字符串模式匹配与 groupby 逻辑,精准筛选满足「同一分组内同时存在两类特定字符串」的数据子集,适用于文档号、编码类字段的复合业务规则过滤。

本文介绍如何在 pandes 中结合字符串模式匹配与 `groupby` 逻辑,精准筛选满足「同一分组内同时存在两类特定字符串」的数据子集,适用于文档号、编码类字段的复合业务规则过滤。

在实际数据分析中,常需对分组(如按客户号、产品线、文件编号 fn)施加跨行逻辑约束——例如:“每个 fn 组内,必须至少包含一个以 'EP' 开头且不以 'W' 结尾的 docn,同时也必须至少包含一个以 'EP' 开头且以 'W' 结尾的 docn”。这类需求无法通过简单布尔索引或单行条件完成,必须借助 groupby 的聚合判断 + transform 的广播能力实现高效向量化处理。

核心思路是:

  1. 分别构造两个布尔序列,标记每行是否满足子条件(如 docn 是否匹配 ^EP.*W$ 或 ^EP.*[^W]$);
  2. 按 fn 分组后,对每个布尔序列使用 .transform(any) —— 这会将每组内是否存在 True 的结果“广播”回原 DataFrame 的每一行;
  3. 组合两个广播后的布尔序列进行行级筛选,即可保留所有属于“合格分组”的原始记录。

以下是完整可运行代码示例:

import pandas as pd

# 构建示例数据
df = pd.DataFrame(data=[
    ['840', '007658', 'EP010A', 'wrwrwr'],
    ['841', '007658', 'EP019410A', 'wwtert'],
    ['842', '007658', 'EP0129W', 'erterte'],
    ['843', '007658', 'EP0629W', 'ertetet'],
    ['992', '007675', 'EP0275A', 'ete'],
    ['993', '007675', 'EP0375A', 'ertre'],
    ['994', '007675', 'EP02091', 'ert'],
    ['117', '007690', 'EP02212A', 'sf'],
    ['118', '007690', 'EP00212A', 'sf'],
    ['118', '007690', 'EP02281W', 'dg'],
    ['118', '007690', 'EP07281W', 'dg'],
    ['118', '007690', 'EP0281W', 'sdf'],
    ['118', '007690', 'EP02281W', 'ert'],
    ['118', '007690', 'EP0612A', 'dfg'],
    ['11', '0076', 'US0612A', 'dfg'],
    ['12', '0076', 'CA0612A', 'dfg']
], columns=['i', 'fn', 'docn', 'ad'])

# ✅ 关键步骤:构建分组级条件并广播
cond_has_ep_not_w = df['docn'].str.contains(r'^EP.*[^W]$', na=False).groupby(df['fn']).transform('any')
cond_has_ep_w     = df['docn'].str.contains(r'^EP.*W$', na=False).groupby(df['fn']).transform('any')

# 筛选:仅保留所属分组同时满足两个条件的所有行
result = df[cond_has_ep_not_w & cond_has_ep_w].copy()
print(result)

? 正则说明:

  • r'^EP.*W$':严格匹配以 EP 开头、以 W 结尾的字符串(中间任意字符);
  • r'^EP.*[^W]$':匹配以 EP 开头、且末字符不是 W 的字符串(注意 [^W] 表示“非 W 字符”,需确保字符串长度 ≥ 3,否则可能误判空值或单字符;更稳健写法可用 r'^EP.*(?
  • na=False 参数防止 NaN 导致布尔运算异常。

⚠️ 注意事项:

  • 避免使用 apply(lambda ...) + any() 在 groupby 上循环,该方式效率极低(Python 层循环),而 transform(any) 是底层优化的向量化操作;
  • 若 docn 列含缺失值(NaN),str.contains() 默认返回 NaN,需显式传入 na=False,否则 transform(any) 可能返回 False(因 any([True, NaN]) 在 pandas 中为 True,但行为依赖版本,显式控制更安全);
  • 此方法保留原始行结构与全部列,符合“获取符合条件分组的全部原始记录”的典型需求;若只需分组键(如 fn 列表),可改用 df.groupby('fn').filter(...).index.unique()。

总结而言,transform(any) 是连接“分组聚合判断”与“行级筛选”的关键桥梁。掌握这一模式,可高效解决诸如“某客户既有活跃订单又有退订记录”“某设备既上报正常日志又上报错误码”等典型的分组双条件业务场景。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

360

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

292

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

931

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1938

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3184

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6384

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

6549

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

8074

2024.03.22

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

20

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn