讲师中心 微信公众号
AI工具推荐 视频效率加速

Polars 动态构建多条件字符串匹配列:无需硬编码,支持任意数量的前缀条件

夏浩酱_4042

夏浩酱_4042

发布时间:2026-08-08 18:03:57

|

754人浏览过

|

来源于php中文网

原创

Polars 动态构建多条件字符串匹配列:无需硬编码,支持任意数量的前缀条件

本文介绍如何在 Polars 中灵活、高效地基于多个字符串前缀条件创建新列,避免手动重复编写 str.starts_with() 表达式,适用于 10 万至 400 万行的大规模数据集。

本文介绍如何在 polars 中灵活、高效地基于多个字符串前缀条件创建新列,避免手动重复编写 `str.starts_with()` 表达式,适用于 10 万至 400 万行的大规模数据集。

在处理大规模结构化文本数据时,常需判断某行是否在指定多列中任意一列以任意一个给定前缀开头(如 '302E513'、'306E510' 等),并据此生成布尔或数值型标记列。若使用硬编码方式逐个传入 pl.col(...).str.starts_with(cond),不仅冗长易错,更难以维护——尤其当条件数从 2 个扩展到 10+ 个时。

幸运的是,Polars 提供两种优雅、高性能且完全向量化(zero Python-loop overhead)的解决方案,均支持动态长度的 conditions 列表:

✅ 方案一:正则表达式 + str.contains()(推荐)

利用 ^ 锚定开头 + | 构建 OR 分支,一次性完成所有前缀匹配:

import polars as pl

df = pl.DataFrame({
    'Codes_1': ['302E513', '301E513', '302E512'],
    'Codes_2': ['303E513', '306E510', '302E512']
}).lazy()

conditions = ['302E513', '306E510', '5164E23', '302E514']
column_names = ['Codes_1', 'Codes_2']

# ✅ 动态构建正则:^(cond1|cond2|cond3|...)
pattern = f"^({'|'.join(pl.escape(c) for c in conditions)}"  # 自动转义特殊字符
df_result = df.with_columns(
    pl.when(pl.any_horizontal(
        pl.col(column_names).str.contains(pattern, literal=False)
    ))
    .then(1.0)
    .otherwise(0.0)
    .alias('Column_name')
).collect()

print(df_result)

⚠️ 注意:pl.escape() 是 Polars 0.20.19+ 新增的安全转义函数,防止 conditions 中含 .、*、( 等正则元字符引发意外匹配。若版本较低,可手动用 re.escape()(需 import re)。

✅ 方案二:生成器表达式 + any_horizontal()(语义更直白)

直接展开 conditions 列表为表达式序列,由 Polars 内部优化执行:

df_result = df.with_columns(
    pl.when(pl.any_horizontal(
        pl.col(column_names).str.starts_with(c) for c in conditions
    ))
    .then(1.0)
    .otherwise(0.0)
    .alias('Column_name')
).collect()

该写法逻辑清晰、无需正则知识,且性能与方案一相当(Polars 会将生成器编译为高效原生运算)。

? 输出验证

两种方案均输出一致结果:

shape: (3, 3)
┌─────────┬─────────┬─────────────┐
│ Codes_1 ┆ Codes_2 ┆ Column_name │
│ ---     ┆ ---     ┆ ---         │
│ str     ┆ str     ┆ f64         │
╞═════════╪═════════╪═════════════╡
│ 302E513 ┆ 303E513 ┆ 1.0         │
│ 301E513 ┆ 306E510 ┆ 1.0         │
│ 302E512 ┆ 302E512 ┆ 0.0         │
└─────────┴─────────┴─────────────┘

第一行因 Codes_1 以 '302E513' 开头命中;第二行因 Codes_2 以 '306E510' 开头命中;第三行无任何列匹配任一前缀,故为 0.0。

? 关键总结

  • 绝不使用 Python 循环:for + mask |= ... 是 Pandas 模式,在 Polars 中会严重拖慢性能并失去惰性计算优势;
  • 优先选方案一(正则):语法简洁、易于调试(可打印 pattern 查看)、天然支持复杂模式(如通配符、分组);
  • 方案二更易理解:适合团队协作或需严格字面匹配(非正则)场景;
  • 始终用 .lazy() + .collect():对百万级数据启用惰性执行,避免中间内存膨胀;
  • 列名与条件列表可完全参数化:只需修改 column_names 和 conditions 变量,代码零改动即可适配任意规模匹配任务。

通过以上方法,你可在 Polars 中实现真正可扩展、高性能、易维护的多条件字符串匹配逻辑——让大数据文本分析既快又稳。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

相关专题

更多
js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1638

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2424

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5904

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

5209

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

6914

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

9614

2024.04.29

go语言字符串相关教程
go语言字符串相关教程

本专题整合了go语言字符串相关教程,阅读专题下面的文章了解更多详细内容。

4899

2025.07.29

c++字符串相关教程
c++字符串相关教程

本专题整合了c++字符串相关教程,阅读专题下面的文章了解更多详细内容。

5167

2025.08.07

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

80

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn