讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

Seko
Seko

AI短剧一键生成成片

Laper
Laper

剧本策划到成片协作

Python大文件写入优化_缓冲与批量写入策略【教程】

陌浩小哥_9699

陌浩小哥_9699

发布时间:2025-12-27 18:53:34

|

925人浏览过

|

来源于php中文网

原创

默认write()频繁小IO导致性能下降,因缓冲区易满而多次系统调用;应显式增大buffering(如64KB)或批量拼接后一次写入。

python大文件写入优化_缓冲与批量写入策略【教程】

Python 默认的 file.write() 在写入大文件时如果不加控制,会频繁触发系统调用、产生大量小 IO,导致性能急剧下降——这不是代码逻辑问题,而是缓冲策略没对上实际负载。

为什么直接 write() 大量小字符串会变慢

每次调用 file.write("...") 时,Python 默认使用行缓冲(sys.stdout)或全缓冲(普通文件),但若你反复写入短字符串(比如逐行拼接日志、逐条 dump JSON),缓冲区可能频繁被填满并刷新,底层实际变成多次 write(2) 系统调用。实测 100 万行、每行 100 字节,不缓冲写入可能比批量写慢 3–5 倍。

  • 默认 open(..., buffering=-1) 会按系统块大小(通常 4KB–8KB)自动缓冲,但「自动」不等于「够用」
  • flush() 手动刷盘会强制同步,除非必要,别在循环里调用
  • 使用 print(..., file=f) 比 f.write() 多一层格式化开销,高频写入时建议绕过

用 buffering 参数显式控制缓冲区大小

把缓冲区从默认值(如 8192)扩大到 64KB 或 1MB,能显著减少系统调用次数,尤其适合连续写入场景(如导出 CSV、生成日志、dump 二进制流)。

  • 设为 buffering=0:禁用缓冲(仅适用于二进制模式,文本模式报错)
  • 设为 buffering=8192:固定 8KB 缓冲(比默认更可控)
  • 设为 buffering=1024*1024(1MB):适合单次写入总量 >10MB 的场景
  • 注意:缓冲区过大不会提升速度,反而可能增加内存压力或延迟落盘时间
with open("output.log", "w", buffering=64*1024) as f:
    for i in range(1000000):
        f.write(f"line {i}: data...\n")

批量拼接 + 一次 write() 比逐行写快得多

当数据可预计算、内存允许(例如百万级字符串,总长

JSON Toolkit
JSON Toolkit

JSON文件多功能工具。支持格式化、验证、压缩、键排序及点记法路径查询。零依赖。

下载

立即学习“Python免费学习笔记(深入)”;

  • 用 str.join() 替代循环 +=(后者在 Python 中是 O(n²))
  • 若数据来自生成器,先转成列表或用 itertools.islice 分批,别直接 join(gen)(会耗尽生成器且无长度提示)
  • 写入前加换行符比循环里每次都加更省事;"\n".join(lines) + "\n" 是常见安全写法
lines = [f"line {i}: data..." for i in range(100000)]
batch = "\n".join(lines) + "\n"
with open("output.txt", "w") as f:
    f.write(batch)

用 writelines() 避免隐式换行和类型检查开销

如果你已有每行带换行符的字符串列表(如 ["a\n", "b\n", "c\n"]),writelines() 比循环 write() 快约 15–20%,因为它跳过了 print-style 格式化与换行补全逻辑。

  • writelines() 不自动加换行符,必须确保每个元素自带 \n 或 \r\n
  • 它接受任意可迭代对象(list、tuple、generator),但 generator 若中途异常可能只写一部分
  • 不推荐对超大列表直接 writelines(big_list) —— 它内部仍是逐个 write,没解决系统调用频次问题
lines_with_newline = (f"line {i}\n" for i in range(100000))
with open("output.txt", "w") as f:
    f.writelines(lines_with_newline)

真正卡住性能的往往不是“怎么写”,而是“什么时候写”和“写多少才刷”。缓冲区大小、是否预聚合、换行符位置这些细节,在 GB 级写入任务里,差的不是几秒,而是几分钟甚至磁盘 I/O 队列拥塞。别迷信默认值,用 strace -e trace=write python script.py 实测你的写入行为,比读十篇教程都管用。

热门AI工具

更多
花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2355

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3862

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1276

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4479

2025.09.10

python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

3480

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

269

2026.02.03

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1938

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

3184

2023.09.04

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

40

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn