讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在Pandas中按行筛选文本长度满足条件的数据行

夜伟同学_5267

夜伟同学_5267

发布时间:2026-08-20 13:11:07

|

874人浏览过

|

来源于php中文网

原创

如何在Pandas中按行筛选文本长度满足条件的数据行

本文介绍两种高效方法:基于每行所有文本总字符数筛选(如总长≥10),或基于“任一列文本长度≥5”逻辑保留行,避免逐列创建辅助列,充分利用apply与布尔索引实现简洁、向量化过滤。

本文介绍两种高效方法:基于每行所有文本总字符数筛选(如总长≥10),或基于“任一列文本长度≥5”逻辑保留行,避免逐列创建辅助列,充分利用`apply`与布尔索引实现简洁、向量化过滤。

在处理含多列文本数据的DataFrame时,常需根据字符长度进行行级过滤。例如,希望仅保留那些至少有一列文本长度 ≥ 5 的行(即:若某行所有非空单元格的字符串长度均

Pandas 提供了优雅的向量化解决方案。核心思路是:对所有文本列统一应用 str.len(),生成数值型长度矩阵,再通过聚合操作(如 .sum(axis=1) 或 .any(axis=1))生成布尔掩码,最后用于布尔索引。

✅ 方法一:保留“任意一列字符数 ≥ 阈值”的行(推荐匹配题意)

该方法严格对应原始需求:“只要有一列 ≥ 5 字符,就保留该行”,即等价于「不满足『所有列都

import pandas as pd
import numpy as np

# 示例数据(含 NaN)
df = pd.DataFrame({
    'column_1': ['werhio', 'sgds', 'wqyuio', 'fhi', 'sadfhkj'],
    'column_2': ['dsfhjk', 'fuo', 'dsfjklh', 'd', 'sdjfkhs'],
    'column_3': ['dh', 'g', 'fhkjfj', 'fgho', 'yyisdk']
})

thresh = 5
mask = df.apply(lambda x: x.str.len()).ge(thresh).any(axis=1)
df_filtered = df[mask].copy()

print(df_filtered)

输出:

  column_1 column_2 column_3
0   werhio   dsfhjk       dh
2   wqyuio  dsfjklh   fhkjfj
4  sadfhkj  sdjfkhs   yyisdk

? 原理说明:

  • df.apply(lambda x: x.str.len()) 对每列调用 str.len(),自动跳过 NaN(返回 NaN,后续 .ge(thresh) 视为 False);
  • .ge(thresh) 返回布尔 DataFrame(True 表示该单元格长度 ≥ 阈值);
  • .any(axis=1) 按行判断是否存在 True,结果即为所需布尔 Series。

✅ 方法二:基于每行总字符数筛选(扩展场景)

若业务逻辑改为“仅保留每行所有文本总长度 ≥ 10 的行”,可使用 .sum(axis=1):

thresh_total = 10
df_filtered_total = df[df.apply(lambda x: x.str.len()).sum(axis=1).ge(thresh_total)]

⚠️ 注意事项:

  • str.len() 对 NaN 安全:返回 NaN,而 .ge() 和 .sum() 在默认设置下会跳过 NaN(skipna=True),因此无需预先填充或删除缺失值;
  • 若列中混有非字符串类型(如数字、布尔值),建议先统一转为字符串:x.astype(str).str.len();
  • 性能提示:该方案完全向量化,比 iterrows() + 手动循环快数十倍,适用于万级及以上数据量。

? 总结

场景 代码片段 语义
任一列 ≥ N 字符 df[df.apply(lambda x: x.str.len()).ge(N).any(axis=1)] 最常用,符合“宽松保留”逻辑
全行总长 ≥ M 字符 df[df.apply(lambda x: x.str.len()).sum(axis=1).ge(M)] 适用于摘要/拼接类文本质量控制

二者均无需中间列、无显式循环,兼顾简洁性与性能,是 Pandas 文本行过滤的标准实践。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

300

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

212

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

331

2026.04.13

Buffalo框架数据库开发全教程
Buffalo框架数据库开发全教程

本专题围绕Buffalo框架数据库开发,讲解database.yml多环境配置、soda与fizz迁移生成回滚、模型结构体标签、增删改查与条件查询、一对多与多对多关联、数据校验、回调钩子、事务处理及原生SQL执行能力。

80

2026.09.23

Buffalo框架路由与请求处理实操指南
Buffalo框架路由与请求处理实操指南

本专题讲解Buffalo框架路由与请求处理机制,涵盖路由注册与分组、资源路由、Handler编写规范、Context上下文方法、参数绑定、中间件编写挂载、Session与Cookie读写、Flash消息及错误页面定制方法。

40

2026.09.23

Buffalo框架零基础入门教程
Buffalo框架零基础入门教程

本专题整理Buffalo框架入门内容,涵盖Go环境准备、buffalo CLI安装、新项目生成、目录结构说明、dev热加载启动、数据库连接配置与常见报错排查,帮助新手按约定优于配置的思路跑通第一个Buffalo框架应用。

20

2026.09.23

Conan创建软件包配方指南
Conan创建软件包配方指南

本专题介绍通过conanfile.py创建软件包的方法,讲解包名、版本、依赖和构建设置等基础信息,以及source、build、package、package_info等常用方法的作用及编写思路。

20

2026.09.22

Conan二进制包配置指南
Conan二进制包配置指南

本专题介绍Conan根据操作系统、编译器、架构和构建类型生成二进制包的方法,讲解Profile、Settings、Options及Package ID的作用,帮助管理不同平台和编译环境下的包版本。

40

2026.09.22

Conan私有仓库搭建教程
Conan私有仓库搭建教程

本专题系统的讲解Conan私有仓库的搭建流程,涵盖仓库服务部署、存储目录配置、用户认证、权限划分和远程地址添加,并介绍内部C++依赖包的上传、下载及版本维护方法。

40

2026.09.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn