讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 Pandas 中正确加载含连续尾部分隔符的 CSV 文件并保留全部空列

雨磊大大_1543

雨磊大大_1543

发布时间:2026-10-27 09:50:49

|

461人浏览过

|

来源于php中文网

原创

如何在 Pandas 中正确加载含连续尾部分隔符的 CSV 文件并保留全部空列

使用 pd.read_csv() 读取含连续尾部分隔符(如 ;;;;)的 CSV 时,默认会忽略末尾空字段;需通过设置 keep_default_na=False 和 na_filter=False,并配合 engine='python' 或显式指定列数,才能完整保留所有列(包括 trailing null 列)。

使用 `pd.read_csv()` 读取含连续尾部分隔符(如 `;;;;`)的 csv 时,默认会忽略末尾空字段;需通过设置 `keep_default_na=false` 和 `na_filter=false`,并配合 `engine='python'` 或显式指定列数,才能完整保留所有列(包括 trailing null 列)。

当 CSV 行末存在多个连续分隔符(例如 a;b;c;;;),Pandas 默认的 C 引擎会将末尾的空字段截断,导致 DataFrame 列数少于实际字段数。这是因为 C 解析器为性能优化而跳过“无意义”的尾部空值。要严格按分隔符数量解析(即每个 ; 都对应一列),必须禁用自动空值识别,并强制解析全部字段。

✅ 推荐解决方案(兼容性好、无需预知列数):
启用 Python 引擎并关闭空值过滤:

import pandas as pd

df = pd.read_csv(
    config.get("OS", "output_file"),
    header=None,
    sep=config.get("OS", "delimiter"),  # 如 ';'
    engine='python',           # 关键:启用 Python 解析器,支持严格分隔符计数
    keep_default_na=False,     # 关键:不将空字符串视为 NaN
    na_filter=False,           # 关键:完全禁用空值检测,保留所有原始空字段
    dtype=str                  # 可选:统一设为字符串,避免类型推断干扰列结构
)
# 此时 df 的列数 = 实际分隔符数 + 1(例如 'a;;b;;;' → 5 列)

⚠️ 注意事项:

Knowledge Graph - Csv Graph Loader Generator
Knowledge Graph - Csv Graph Loader Generator

从 CSV 数据集生成图数据库加载器和三元组映射。将表格 CSV 数据转换为图数据库可直接使用的节点、边和三元组。

下载
  • engine='python' 虽稍慢于默认 C 引擎,但能精确匹配分隔符位置,是处理此类边缘格式的可靠选择;
  • na_filter=False 是核心——若保留 True,即使有尾部 ;,Pandas 仍可能将最后若干空字段合并或丢弃;
  • 若后续需数值/日期类型,建议先完整读入(全 str),再对特定列调用 pd.to_numeric(..., errors='coerce') 或 pd.to_datetime() 安全转换;
  • 不要依赖 skipinitialspace=True 或 quoting 参数解决此问题——它们针对引号/空格场景,对尾部空字段无效。

? 补充技巧:若已知最大列数(如 40),也可用 names=range(40) 显式声明列名,再结合 usecols 或 dtype 控制:

df = pd.read_csv(
    "data.csv",
    header=None,
    sep=';',
    names=range(40),      # 强制定义 0–39 共 40 列
    keep_default_na=False,
    na_filter=False,
    dtype=str
)

最终,DataFrame 将严格反映原始行的分隔符结构:12;0;...;0;;;;;;;;;;;;;;;;(共 37 个 ; → 38 列),所有尾部空字段均以 ''(空字符串)形式保留,后续可统一替换为 pd.NA 或 None 进行业务处理。

热门AI工具

更多
UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

671

2026.04.13

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

100

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

60

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

60

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

20

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

60

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn