讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

Python CSV 处理的 csv vs pandas 性能对比

阿墨吖_7855

阿墨吖_7855

发布时间:2026-02-23 20:10:33

|

179人浏览过

|

来源于php中文网

原创

pandas.read_csv() 默认比csv.reader慢因类型推断等开销;提速需设dtype=str、header=None、usecols;校验用csv.Sniffer+reader;DictReader内存恒定,DataFrame全量加载;写入复杂需求必用csv.writer。

python csv 处理的 csv vs pandas 性能对比

读取大文件时 pandas.read_csv() 比 csv.reader 慢很多?

不一定慢,但默认行为下确实常更慢——因为 pandas.read_csv() 默认做类型推断、列名解析、空值处理、索引生成等一整套操作,而 csv.reader 就是纯文本逐行切分。如果你只想要“把 CSV 行变成列表”,csv.reader 几乎总是更快,尤其在 10MB+ 文件上差距明显。

实操建议:

  • 用 csv.reader 时,确保用 open(..., newline='') ,否则 Windows 下可能多出空行(Python 3.6+ 必须加)
  • pandas.read_csv() 想提速,至少关掉三样:dtype=str(禁用类型推断)、header=None(无列名)、usecols(只读需要的列)
  • 如果只是校验格式或抽样,别用 pandas——csv.Sniffer().sniff() + csv.reader 更轻量

csv.DictReader 和 pandas.DataFrame 处理带标题 CSV 的差异

两者都能按字段名访问数据,但语义完全不同:csv.DictReader 是迭代器,每行返回一个 dict,内存占用恒定;pandas.DataFrame 是全量加载到内存的二维结构,支持向量化操作但吃内存。

常见错误现象:

立即学习“Python免费学习笔记(深入)”;

记录数据一键导出 Excel/CSV(带样式)
记录数据一键导出 Excel/CSV(带样式)

把记录数组导出为带样式的 Excel(xlsx) 或带 BOM 的 CSV。支持列配置(表头/宽度/顺序)、表头冻结首行、斑马纹、布尔值转「是/否」、数组换行、CSV 中文防乱码。零依赖。触发词:导出 Excel、导出 CSV、记录转表格、列配置导出、数据导出、表格美化、JSON 转表格。

下载
  • 用 DictReader 后直接 list(reader) 把全部数据读进内存——这反而比 pandas 更没优势
  • pandas 读取含混合类型的列(如某列多数是数字但几行是字符串),会自动转成 object 类型,后续计算变慢且易出错
  • DictReader 对重复列名不报错,但只会保留最后一个;pandas 直接报 ValueError: Duplicate names

写入 CSV:什么时候必须用 csv.writer 而不是 df.to_csv()

当你需要精确控制换行符、引号策略、编码或流式写入(比如边查数据库边写),csv.writer 是唯一靠谱选择。df.to_csv() 默认用系统换行符,且无法在写入中途修改字段内容(比如动态加时间戳),也不支持追加写入时跳过 header。

实操建议:

  • 写入含换行符的字段(如用户评论),csv.writer 自动用双引号包裹,to_csv() 默认也做,但若设了 quoting=csv.QUOTE_NONE 就会崩——而 csv.writer 可显式传 quoting=csv.QUOTE_MINIMAL
  • 要写 GBK 编码文件(比如给老系统用),open(..., encoding='gbk') + csv.writer 直接可用;to_csv(encoding='gbk') 在旧版 pandas(
  • 写超大文件时,用 csv.writer 配合 buffered=True 的 open,比 to_csv() 的 chunksize 更可控

pandas 的 chunksize 参数真能省内存?

能,但仅限于“分块读取后立刻处理并丢弃”,一旦你把所有 chunk pd.concat() 起来,内存就又涨回去了。很多人以为设了 chunksize=1000 就万事大吉,结果最后还是 OOM。

性能与兼容性影响:

  • chunksize 返回的是 TextFileReader 对象,不是 DataFrame,不能直接调 .head() 或 .plot()
  • 每个 chunk 独立做类型推断,可能导致同一列在不同 chunk 里 dtype 不一致(比如前 chunk 全数字,后 chunk 有字符串)
  • 如果文件有 BOM 头,chunksize 模式下只有第一个 chunk 能正确识别编码,后面 chunk 可能解码失败

真正省内存的写法是:用 for chunk in pd.read_csv(..., chunksize=N),每轮只做聚合/过滤/写磁盘,不做 concat,也不存 chunk 到 list 里。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

851

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1898

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3084

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6324

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

6389

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

7954

2024.03.22

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn