讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Python arrow vs pandas 的内存对比

阿墨吖_7855

阿墨吖_7855

发布时间:2026-02-23 20:33:11

|

635人浏览过

|

来源于php中文网

原创

pandas datetime64[ns] 内存更省,每元素仅8字节;arrow.Arrow实例约64+字节,100万条可多占40MB以上,且无共享结构、GC压力大。

python arrow vs pandas 的内存对比

arrow 读取时间数据时内存不省,反而更高

用 arrow 解析字符串为时间对象,看起来轻量,但实际它底层仍会构造完整 datetime 对象(或带时区的 Arrow 实例),每个实例都有固定开销。而 pandas 的 Series[datetime64[ns]] 是紧凑的 NumPy 数组,内存按字节对齐,批量存储效率高得多。

常见错误现象:arrow.Arrow 列表存 100 万条时间,内存占用常是 pandas.Series 的 3–5 倍;用 list(map(arrow.get, str_list)) 更是灾难——每条都新建对象、无共享结构。

  • 使用场景:仅需单次解析、少量时间计算?arrow 没问题;批量处理、进 DataFrame、做时间序列分析?直接上 pandas.to_datetime()
  • pandas.to_datetime() 默认启用 cache=True,重复字符串自动复用解析结果,arrow.get() 每次都重新 parse
  • 若必须用 arrow(比如依赖其 shift() 或时区链式操作),先转成 datetime 再喂给 pandas:pd.Series([a.datetime for a in arrow_list]),别留着 Arrow 实例数组

pandas datetime64[ns] 的内存是固定的 8 字节/元素

datetime64[ns] 是 NumPy 的原生 dtype,底层就是 int64,每个值只占 8 字节,和 Python 的 datetime(约 48 字节)或 arrow.Arrow(约 64+ 字节)完全不在一个量级。

性能影响:100 万条时间,datetime64[ns] 占约 7.6 MB;同数量的 list[Arrow] 很容易破 50 MB——不仅吃内存,GC 压力也大。

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载

立即学习“Python免费学习笔记(深入)”;

  • 参数差异:pandas.to_datetime(..., infer_datetime_format=True) 能跳过正则推断,比默认快 2–3 倍;arrow.get() 没等效优化开关
  • 兼容性注意:datetime64[ns] 不能表示纳秒以上精度,也不能存时区信息(得用 datetime64[ns, tz],内存翻倍);arrow 天然支持任意时区链式转换,但代价是对象膨胀
  • 路径陷阱:从 CSV 读时间别用 dtype={'time': 'string'} 再手动转——先让 pd.read_csv(..., parse_dates=['time']) 直接走 C parser,内存和速度双优

arrow 不适合当 pandas 时间列的底层存储

有人试过用 pd.Series 存 Arrow 对象,以为能兼顾易用性和灵活性。结果既没获得 datetime64 的内存优势,又丢掉了 Arrow 的方法链能力(因为 Series 不代理 Arrow 方法),还触发频繁的 __getattr__ 回退,性能反降。

错误现象:series.dt.hour 报 AttributeError;调 series.apply(lambda x: x.shift(hours=1)) 比纯 pandas 慢一个数量级。

  • 正确做法:时间运算全交给 pandas 的 .dt 访问器;真需要 arrow.shift() 那种语义,先转成 datetime,用 pd.Timedelta 或 pd.offsets 替代
  • 配置项注意:pandas.options.mode.use_inf_as_na = True 不影响 datetime64 列的 NaT 行为,但会让 Arrow 的 None 处理更混乱——别混用
  • 命令验证内存:用 series.memory_usage(deep=True).sum() 看真实占用,别信 sys.getsizeof(series) ——它不统计底层 NumPy 数据
事情说清了就结束。真正压内存的从来不是“选哪个库”,而是“有没有让时间数据落在连续的、无封装的数组里”。arrow 是个好工具,但它不是数组。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

讯飞智文

一款面向学习和办公场景的AI文档创作工具,可辅助生成PPT与Word文档,提高资料整理和内容制作效率。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

360

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

871

2026.04.13

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

7319

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1898

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3104

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6344

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

6409

2023.11.24

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn