讲师中心 微信公众号
AI工具推荐 视频效率加速

如何使用Python 3.12优化大批量Excel数据的自动化清洗?

星杰姑娘_6297

星杰姑娘_6297

发布时间:2026-06-23 14:35:26

|

771人浏览过

|

来源于php中文网

原创

pandas.read_excel在Python 3.12中变慢是因PIGIL启用而openpyxl等引擎未适配,导致锁争用;推荐改用calamine引擎、预分配chunk、指定dtype、按replace→fillna→astype→dropna顺序清洗,并用ProcessPoolExecutor多进程处理。

如何使用python 3.12优化大批量excel数据的自动化清洗?

为什么 pandas.read_excel 在 Python 3.12 里变慢了?

Python 3.12 默认启用 per-interpreter GIL(PIGIL),但 openpyxl 和 xlrd 等底层引擎未完全适配,导致 pandas.read_excel 在多线程/多进程批量读取时反而出现锁争用或初始化延迟。这不是你代码写错了,而是引擎层兼容性滞后。

  • 验证方法:在单文件读取时加 timeit,对比 Python 3.11 和 3.12 的 read_excel(engine="openpyxl") 耗时
  • 临时解法:显式指定 engine="calamine"(需安装 calamine-python)——它基于 Rust,不依赖 CPython GIL,且支持 Excel 2007+(.xlsx)
  • 注意:calamine 不支持公式计算、样式、图表,仅适合清洗场景(你本来也不需要这些)

用 pd.concat + chunking 替代循环 read_excel

逐个 read_excel 再 pd.concat 是常见写法,但在 Python 3.12 下容易触发内存碎片和 GC 频繁回收。更稳的路径是预分配 chunk size + 复用 DataFrame 结构。

  • 避免 df = pd.concat([df, new_df]) 这种原地拼接——每次调用都复制整个 DataFrame
  • 改用列表收集:dfs = [pd.read_excel(f, engine="calamine") for f in files],最后一次性 pd.concat(dfs, ignore_index=True)
  • 若内存吃紧,用 chunksize=5000 参数(仅对 calamine 和 odf 引擎有效),配合 pd.concat 流式合并
  • dtype 务必提前指定,尤其对 ID 列(别让 pandas 自动推断成 float64 再转 str)

replace / astype / dropna 的顺序影响清洗结果

顺序错会导致空值扩散或类型坍塌。比如先 astype("int") 再 dropna(),会把 np.nan 强转成 -2147483648(取决于平台);而先 replace("", np.nan) 再 dropna() 才安全。

Excel公式大师(兼容WPS)
Excel公式大师(兼容WPS)

Excel/WPS 公式大师。用大白话描述需求,直接给出可用的公式、函数组合和数据处理方案,并解释每一段的作用。当用户提到"Excel 公式"、"表格函数"、"VLOOKUP 怎么用"、"XLOOKUP"、"LET"、"LAMBDA"、"动态数组"、"这个公式报错了"、"#N/A"、"#REF!"、"

下载
  • 清洗链推荐顺序:replace → fillna → astype → dropna(按需)
  • replace 优先用字典:df.replace({"A": {"N/A": None, "NULL": None}}),比正则快且可控
  • 对数值列做 astype("Int64")(大写 I),它能保留 pd.NA,比 int64 + np.nan 更健壮
  • 避免 df.dropna(how="all") 后再 reset_index(drop=True) ——直接用 df.dropna(how="all").reset_index(drop=True) 减少中间对象

用 concurrent.futures.ProcessPoolExecutor 跑清洗任务

Python 3.12 的 PIGIL 让多线程收益下降,但多进程依然有效。关键是避免 pickle 开销过大——不要传整个 DataFrame 进子进程,而是传文件路径 + 清洗函数名。

立即学习“Python免费学习笔记(深入)”;

  • 清洗函数必须定义在模块顶层(不能是 class method 或嵌套函数),否则 ProcessPoolExecutor 无法序列化
  • 示例结构:
  • def clean_one_file(filepath):
        df = pd.read_excel(filepath, engine="calamine")
        df = df.replace(...).astype(...).dropna(...)
        return df
    <h1>主流程</h1><p>with ProcessPoolExecutor(max_workers=4) as executor:
    dfs = list(executor.map(clean_one_file, file_list))
    result = pd.concat(dfs, ignore_index=True)
  • Windows 用户注意:必须包裹在 if __name__ == "__main__": 下,否则 spawn 失败
  • 不要用 ThreadPoolExecutor 做 CPU 密集型清洗——在 3.12 下几乎没提速

真正卡住的往往不是某一行代码,而是引擎选择与数据类型声明的组合。比如用 calamine 读取后没设 dtype,后续 astype("category") 会触发全量扫描;或者 dropna 前忘了 replace 空字符串。这些细节在小数据上无感,一到万行以上就暴露。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1871

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

5104

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1809

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

30817

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3647

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3667

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1243

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

616

2023.08.10

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

0

2026.11.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn