讲师中心 微信公众号
AI工具推荐 视频效率加速

如何处理导入操作后数据行数不一致的问题_检查隐藏字符与跳过错误记录数

酷强大大_7821

酷强大大_7821

发布时间:2026-03-28 09:11:41

|

669人浏览过

|

来源于php中文网

原创

行数不一致主因是隐藏字符或字段内换行未引号包裹,应先用cat -A或PowerShell查原始字节,再针对性调整lineterminator、quoting或on_bad_lines参数。

导入后 len(df) 和原始文件行数对不上,先查隐藏字符

excel 或 csv 里肉眼看不见的换行符、零宽空格、bom 头,会让 pandas 误判行边界,尤其在 windows 编辑器里保存的文件容易带 \r\n 混用或 \ufeff。别急着调参数,先看原始文件真实结构。

  • 用命令行快速检查:head -n 5 file.csv | cat -A(Linux/macOS)或 Get-Content file.csv -Encoding UTF8 | Select-Object -First 5 | ForEach-Object { $_.ToString().ToCharArray() | ForEach-Object { "{0:X4}" -f [int]$_ } -join ' ' }(PowerShell)
  • 重点看是否有 ^M(\r)、EF BB BF(BOM)、200B(零宽空格)
  • pandas 默认用 \n 分行,遇到孤立 \r 或嵌入式换行(如字段内 "abc\ndef")会多切一行

pd.read_csv 中哪些参数真正影响行数统计

不是所有参数都管“读进来几行”,关键只在三处:分隔逻辑、引号处理、错误容忍。其他像 dtype 或 usecols 不改变行数,只改内容。

  • lineterminator:强制指定换行符,比如设为 '\n' 可绕过混用 \r\n 导致的误切
  • quoting 和 quotechar:若字段含换行但没被引号包裹,pandas 会提前断行;设 quoting=csv.QUOTE_ALL 或检查原始导出是否漏引号
  • on_bad_lines='skip'(pandas ≥1.3):跳过格式错乱行,但会静默丢数据;on_bad_lines='warn' 能看到具体哪几行被跳了
  • 避免用 error_bad_lines=False(已弃用),它不报错也不提示,容易漏掉问题行

怎么确认到底丢了哪几行或多了哪几行

靠 len(df) 对比太粗糙,得定位到具体行为什么异常。核心是让 pandas “吐出”它认为的每一行原始文本。

  • 加 keep_default_na=False, skip_blank_lines=False,再用 df.iloc[:10].to_string() 看前几行是否包含意外换行
  • 用 pd.read_csv(..., nrows=100, header=None) 不带列名读,把每行当纯字符串,再 print(repr(row[0])) 查看原始字节表现
  • 如果源是 Excel,别用 read_csv 去读 .xlsx —— 改用 pd.read_excel,否则 openpyxl 引擎可能把合并单元格、注释行也当数据行算进去
  • 导出时用 df.to_csv(..., line_terminator='\n') 统一换行符,避免下次再踩坑

跳过错误记录时,on_bad_lines='skip' 的副作用

它确实能防止报错中断,但代价是:丢失行不标记、不返回索引、不保证顺序连续。你拿到的 df.index 看似从 0 开始,实际可能缺了第 17 行、第 203 行……而你完全不知道。

  • 必须配合日志:用 warnings.catch_warnings(record=True) 捕获 UserWarning,里面含被跳行号
  • 更稳妥的做法是先用 on_bad_lines='warn' 运行一次,记下警告里的行号,再人工检查对应原始行
  • 如果错误行有规律(比如总在含 emoji 的字段),不如预处理:用 Python 逐行读文件,line.encode('utf-8', errors='ignore').decode('utf-8') 清掉非法字节,再喂给 read_csv
实际处理时,90% 的行数不一致都卡在“以为自己在读 CSV,其实文件带 BOM 或字段内换行没引号”。别一上来就调 chunksize 或写自定义 parser,先用 cat -A 或十六进制查看器看前三行原始字节。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

相关专题

更多
数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

2745

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

3941

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

3031

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

967

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

2667

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

2667

2023.10.16

vb连接access数据库的方法
vb连接access数据库的方法

vb连接access数据库方法:1、使用ADO连接,首先导入System.Data.OleDb模块,然后定义一个连接字符串,接着创建一个OleDbConnection对象并使用Open() 方法打开连接;2、使用DAO连接,首先导入 Microsoft.Jet.OLEDB模块,然后定义一个连接字符串,接着创建一个JetConnection对象并使用Open()方法打开连接即可。

2893

2023.10.16

vb连接数据库的方法
vb连接数据库的方法

vb连接数据库的方法有使用ADO对象库、使用OLEDB数据提供程序、使用ODBC数据源等。详细介绍:1、使用ADO对象库方法,ADO是一种用于访问数据库的COM组件,可以通过ADO连接数据库并执行SQL语句。可以使用ADODB.Connection对象来建立与数据库的连接,然后使用ADODB.Recordset对象来执行查询和操作数据;2、使用OLEDB数据提供程序方法等等。

2481

2023.10.19

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn