讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

剧云
剧云

中文短剧剧本制作平台

Laper
Laper

剧本策划到成片协作

Python文件锁如何实现_多进程安全写入解析【指导】

大磊姑娘_5525

大磊姑娘_5525

发布时间:2025-12-27 23:39:07

|

340人浏览过

|

来源于php中文网

原创

Python多进程写入冲突的本质是操作系统不自动串行化跨进程文件写入,需依赖flock()(Linux/macOS)或LockFileEx()(Windows)等系统级锁;threading.Lock无效,临时文件+os.replace()不适用于追加场景。

python文件锁如何实现_多进程安全写入解析【指导】

Python多进程写入冲突的本质是什么

多个进程同时打开同一个文件并调用 write(),操作系统不会自动串行化写入操作。即使每个进程都用 with open(...) 上下文管理,也无法阻止内核层面的竞态——比如两个进程几乎同时调用 lseek() 到文件末尾再写入,结果就是内容覆盖或错位。

关键点在于:flock()(POSIX)或 LockFileEx()(Windows)这类系统级锁,才是唯一能跨进程生效的同步机制;Python标准库的 threading.Lock 只作用于单个进程内的线程,对多进程完全无效。

用 fcntl.flock() 实现可靠文件锁(Linux/macOS)

这是最轻量、最直接的方式,依赖底层 flock() 系统调用,支持共享锁/独占锁,且会随进程退出自动释放(避免死锁)。

  • 必须在打开文件后、任何读写前调用 flock(),且文件描述符需保持打开状态
  • 使用 fcntl.LOCK_EX 获取排他锁(写入场景),fcntl.LOCK_NB 可设为非阻塞模式
  • 不要对已关闭的文件描述符加锁,否则抛 OSError: [Errno 9] Bad file descriptor
  • 注意:NFS 文件系统可能不支持 flock(),此时需换用基于临时文件的方案
import fcntl
import os
<p>def append_to_log(path, content):
with open(path, "a") as f:
fcntl.flock(f.fileno(), fcntl.LOCK_EX)
try:
f.write(content + "\n")
f.flush()  # 确保内容落盘
finally:
fcntl.flock(f.fileno(), fcntl.LOCK_UN)  # 显式解锁更安全</p>

Windows 下用 mmap + msvcrt.locking() 不靠谱,改用 portalocker

Windows 原生不支持 flock(),而 msvcrt.locking() 仅作用于文件片段、接口晦涩,且容易因缓冲区未刷新导致行为异常。实际项目中应直接使用成熟封装库。

Linux DO
Linux DO

Linux DO (linux.do)。任何 Linux DO 请求(搜索、读取数据)均使用此技能。若任务涉及 Linux DO,应使用本技能而非调用其他。

下载

立即学习“Python免费学习笔记(深入)”;

  • portalocker 底层调用 LockFileEx(),跨平台接口统一,支持超时和上下文管理
  • 安装:pip install portalocker
  • 若进程被强制 kill(如 kill -9),锁仍能被系统回收,这点比自建临时文件标记更可靠
import portalocker
<p>def safe_write(path, content):
with open(path, "a") as f:
portalocker.lock(f, portalocker.LOCK_EX)
try:
f.write(content + "\n")
f.flush()
finally:
portalocker.unlock(f)</p>

为什么不用临时文件 + os.replace() 替代锁

该方案(写入临时文件后原子重命名)适用于「整文件替换」场景,但不适用于「追加日志」或「增量更新」——因为每次都要读取原文件、合并、再全量写回,IO放大严重,且无法保证多进程间追加顺序。

  • 适合:配置文件热更新、生成静态报告等「全量写入」任务
  • 不适合:日志追加、计数器累加、CSV逐行写入等「高频小写入」场景
  • 注意:os.replace() 在同文件系统内是原子的,跨文件系统会退化为复制+删除,失去原子性

真正难处理的是「既要并发安全,又要保持追加语义」——这时候绕不开系统级文件锁,没有更简单的替代路径。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

SoundView
SoundView Hot

SoundView是一款面向跨境电商的视频翻译、配音和本地化 AI 创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

相关专题

更多
pip安装使用方法
pip安装使用方法

安装步骤:1、确保Python已经正确安装在您的计算机上;2、下载“get-pip.py”脚本;3、按下Win + R键,然后输入cmd并按下Enter键来打开命令行窗口;4、在命令行窗口中,使用cd命令切换到“get-pip.py”所在的目录;5、执行安装命令;6、验证安装结果即可。大家可以访问本专题下的文章,了解pip安装使用方法的更多内容。

3630

2023.10.09

更新pip版本
更新pip版本

更新pip版本方法有使用pip自身更新、使用操作系统自带的包管理工具、使用python包管理工具、手动安装最新版本。想了解更多相关的内容,请阅读专题下面的文章。

8203

2024.12.20

pip设置清华源
pip设置清华源

设置方法:1、打开终端或命令提示符窗口;2、运行“touch ~/.pip/pip.conf”命令创建一个名为pip的配置文件;3、打开pip.conf文件,然后添加“[global];index-url = https://pypi.tuna.tsinghua.edu.cn/simple”内容,这将把pip的镜像源设置为清华大学的镜像源;4、保存并关闭文件即可。

9922

2024.12.23

python升级pip
python升级pip

本专题整合了python升级pip相关教程,阅读下面的文章了解更多详细内容。

5247

2025.07.23

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

3248

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

5489

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

3909

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

506

2026.01.19

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

40

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn