讲师中心 微信公众号
AI工具推荐 视频效率加速

Pandas 中基于子字符串条件筛选 DataFrame 行的完整实践指南

冬枫姑娘_4282

冬枫姑娘_4282

发布时间:2026-10-05 12:59:47

|

928人浏览过

|

来源于php中文网

原创

Pandas 中基于子字符串条件筛选 DataFrame 行的完整实践指南

本文详解如何在 Pandas 中高效筛选包含指定子字符串的行,尤其适用于无法直接使用 read_csv 解析的非结构化文本数据,重点演示列级子串匹配、链式过滤及预处理注意事项。

本文详解如何在 pandes 中高效筛选包含指定子字符串的行,尤其适用于无法直接使用 `read_csv` 解析的非结构化文本数据,重点演示列级子串匹配、链式过滤及预处理注意事项。

在实际数据处理中,常遇到格式混乱、分隔不统一的文本文件(如日志、报表或遗留系统输出),导致 pd.read_csv 无法直接解析。此时需先按行读取、手动切分,再构建 DataFrame,最后进行条件筛选——这正是本例的核心场景。

给定原始文本 input.txt,其结构松散,含标题、页脚与干扰行。我们需仅保留第二列(索引为 1)包含 $$$$$ 的有效记录。关键在于:DataFrame 构建后,对特定列执行子字符串判断,并利用布尔索引完成筛选。

以下是完整、健壮的实现流程:

import pandas as pd

data_list = []
with open('input.txt', 'r') as f:
    for line in f:
        parts = line.strip().split()
        if parts:  # 跳过空行,避免生成 NaN 或长度不一致的行
            data_list.append(parts)

# 构建 DataFrame;列数可能不等,但本例中有效行均为 4 列
df = pd.DataFrame(data_list)

# 筛选:仅当第 1 列(即 df[1])存在子字符串 '$$$' 时保留该行
# 注意:使用 str.contains() 并设置 na=False 避免空值引发错误
mask = df[1].str.contains(r'\$\$\$', regex=True, na=False)
filtered_df = df[mask].reset_index(drop=True)

print(filtered_df)

输出结果为:

       0      1     2      3
0  040525  $$$$$  9999  12345
1  040525  $$$$$  8888  12345
2  040525  $$$$$  7777  12345
3  040525  $$$$$  6666  12345

⚠️ 关键注意事项:

  • str.contains() 默认启用正则,而 $ 是正则元字符,因此必须转义为 r'\$\$\$' 或设置 regex=False;推荐显式使用原始字符串加转义,语义更清晰。
  • 务必添加 na=False 参数,否则含 NaN 的行会返回 NaN,导致布尔索引失败(Pandas 报 TypeError: Cannot mask with non-boolean array)。
  • 若原始数据列数不一致(如某些行被 split() 后长度不同),DataFrame 会自动用 NaN 填充缺失位置,此时 df[1] 可能含 NaN —— na=False 同样可安全处理此情况。
  • 如需进一步清洗(如去除前导零、转换数值类型),可在筛选后链式调用:filtered_df[0] = filtered_df[0].str.lstrip('0')。

该方法兼顾灵活性与鲁棒性,是处理半结构化文本数据的标准范式之一。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

232

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

411

2026.04.13

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

80

2026.09.30

LLVM IR中间表示入门指南
LLVM IR中间表示入门指南

本专题整理LLVM IR的核心概念,包括中间表示作用、模块结构、函数、基本块、SSA形式、类型系统和常见语法,帮助新手理解LLVM编译流程中的关键层。

40

2026.09.30

PDF转图片方法
PDF转图片方法

需要把 PDF 页面用于上传、预览、分享或图片归档时,PDF 转图片方法专题整理 JPG/PNG 格式选择、逐页导出、清晰度设置、批量下载和结果检查等流程,帮助用户稳定完成 PDF 图片化处理。

40

2026.09.30

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

60

2026.09.29

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

280

2026.09.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn