讲师中心 微信公众号
AI工具推荐 视频效率加速

如何用 Pandas 灵活解析含混合分隔符与小数逗号的 CSV 文件

云丽小哥_1799

云丽小哥_1799

发布时间:2026-10-20 21:09:30

|

750人浏览过

|

来源于php中文网

原创

如何用 Pandas 灵活解析含混合分隔符与小数逗号的 CSV 文件

本文介绍如何使用正则表达式分隔符配合 pd.read_csv,精准分离头部的英文列名(含 ; 和 ,)与数据行中的德式小数逗号(,),避免手动修改文件,实现自动化、鲁棒的数据加载。

本文介绍如何使用正则表达式分隔符配合 `pd.read_csv`,精准分离头部的英文列名(含 `;` 和 `,`)与数据行中的德式小数逗号(`, `),避免手动修改文件,实现自动化、鲁棒的数据加载。

在实际数据工程中,常遇到由第三方软件导出的“非标准”CSV文件:其表头使用分号(;)和英文逗号(,)混合分隔列名(如 col1;col2,col3),而数据体却采用德语/欧洲格式的小数点替代符——即用逗号表示小数(如 1,234 表示 1.234)。这种冲突导致 pd.read_csv 无法用单一 sep 参数正确解析:若设 sep=';',则表头中 column3,column4,column5 会被误判为单列;若设 sep=',',又会把 1,234 拆成两列。

核心思路是:利用正则表达式实现“上下文感知分隔” —— 仅在逗号后紧跟字母(即表头中列名分隔处)才将其视作分隔符,而数据行中的 1,234 因逗号后是数字,不触发分割。

以下为完整解决方案:

QuickBooks Mileage CSV
QuickBooks Mileage CSV

使用 qbo-mileage CLI 及用户凭证,从 Airtable、Outlook 或 Google Calendar 记录生成 QuickBooks Online 里程 CSV 文件。

下载
import pandas as pd

# ✅ 正确用法:指定文件路径 + 正则分隔符 + Python 引擎 + 小数处理
df = pd.read_csv(
    r"mypath	est.csv",           # 注意:使用原始字符串避免 Windows 路径转义问题
    sep=r';|,(?=[A-Za-z])',       # 分隔符:分号 或 “逗号+后跟字母”
    skiprows=3,                   # 跳过前 3 行元信息
    header=0,                     # 第 0 行(跳过后的首行)作为列名
    engine='python',              # 必须使用 'python' 引擎以支持正则 sep
    decimal=','                   # 将数据中的逗号自动转为小数点
)

? 关键参数说明:

  • sep=r';|,(?=[A-Za-z]):正则含义为“匹配 ;,或匹配一个后面紧跟英文字母的 ,”。(?=[A-Za-z]) 是正向先行断言,确保该逗号仅用于分隔列名(如 column3,column4),而不会匹配 1,234 中的逗号(因其后是数字)。
  • engine='python':Pandas 默认的 'c' 引擎不支持正则分隔符,必须显式指定 'python' 引擎。
  • decimal=',':将所有数值字段中作为小数分隔符的逗号自动转换为 .,并解析为浮点数。

⚠️ 常见错误规避:

  • ❌ 错误写法:sep=';, '(将 ;, 当作多字符分隔符)→ Pandas 会寻找字面量 ;, 字符串,而非“; 或 ,”。
  • ❌ 错误写法:未加 engine='python' → 报 ParserError: Expected file path or buffer object 或静默失败。
  • ❌ 错误写法:pd.read_csv(StringIO("mypath\test.csv")) → StringIO 用于包装字符串内容,不是文件路径;直接传入路径字符串即可。
  • ⚠️ 若列名中可能含数字或符号(如 col1_v2, col3_total),可增强正则为 r';|,(?=[^ds,;])'(逗号后非数字、空格、逗号、分号),提升鲁棒性。

最终输出为标准 DataFrame,5 列清晰对齐,数值自动转为 float64 类型,完全满足后续分析需求。此方法无需预处理文件、不依赖外部工具,是处理“带 bug 的导出数据”的生产级推荐方案。

热门AI工具

更多
AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

571

2026.04.13

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

Playwright 页面操作指南
Playwright 页面操作指南

Playwright页面操作专题汇集元素定位、点击与输入、等待响应、多页面切换、Iframe、事件监听及文件处理的已审核文章,便于按操作场景查阅示例与常见问题。

0

2026.10.21

Playwright 入门教程
Playwright 入门教程

Playwright入门专题汇集测试框架安装、VS Code配置、录制脚本、编写首个用例、运行调试及查看报告的已审核文章,帮助初学者搭建端到端测试流程。

0

2026.10.21

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

100

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

80

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

40

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn