不能直接用 open() 做异步文件 I/O,因其底层为阻塞式系统调用,会挂起协程;aiofiles 通过线程池实现伪异步,需用 async with 和 await,不支持同步迭代及部分方法,参数需注意编码和模式匹配。

为什么不能直接用 open() 做异步文件 I/O
aiofiles 不是给 open() 加个 async 就能用的替代品。Python 的标准 open() 底层调用的是操作系统阻塞式系统调用(如 read()、write()),即使在 asyncio 事件循环里调用,也会让整个协程挂起,阻塞其他任务。aiofiles 的作用是把文件操作放到线程池里执行,再用 await 等待结果——它本质是「伪异步」,但对大多数 I/O 场景足够高效且安全。
常见错误现象:RuntimeWarning: coroutine 'open' was never awaited,或协程卡住不动,其实是误以为 aiofiles.open() 返回的是原生 async 对象,而没用 await 或 async with 正确进入上下文。
- 必须用
async with aiofiles.open(...),不能只写aiofiles.open(...) - 不支持
for line in f:这种同步迭代,得用async for line in f: - 不支持
.seek()、.tell()等部分方法(v23.1 起已支持,但需确认版本)
aiofiles.open() 的参数和模式要注意什么
参数名和含义基本和内置 open() 一致,但有几处关键差异:
-
mode中'b'必须显式声明:文本模式('r')默认编码为utf-8,但若打开二进制文件,必须用'rb',否则会报UnicodeDecodeError -
encoding参数仅在文本模式下生效;二进制模式下传 encoding 会被忽略 -
loop参数已弃用(aiofiles ≥ 22.1),不要手动传,让它自动绑定当前运行的事件循环 -
fallback参数可设为True强制退回到线程池(默认已启用,一般不用动)
示例:
立即学习“Python免费学习笔记(深入)”;
async with aiofiles.open('data.txt', mode='r', encoding='gbk') as f:
content = await f.read()
如果文件是 GBK 编码却没指定 encoding,就会按 UTF-8 解码失败。
读大文件时别用 read(),改用 async for 或分块读
f.read() 会一次性把整个文件加载进内存,对几百 MB 以上的文件极易 OOM;而 async for line in f: 是逐行异步读取,内存友好得多。
Camoufox 是一个基于 Firefox 构建的开源反检测浏览器,为 Python 自动化工作流程提供强大的指纹注入和反机器人检测规避功能。它与 Playwright 集成,以提供能够绕过现代机器人检测系统的隐身浏览能力。
-
async for line in f:每次 yield 一行(含换行符),适合日志、CSV 等行结构化数据 - 想控制每次读多少字节?用
await f.read(8192)手动分块,注意返回bytes(文本模式下是str) - 避免
await f.readlines()—— 它仍会把所有行一次性读入内存,和read()风险类似
错误示范:
# 危险!可能爆内存
async with aiofiles.open('huge.log') as f:
all_lines = await f.readlines() # ← 别这么干
推荐写法:
async with aiofiles.open('huge.log') as f:
async for line in f:
process(line)
写文件时记得 await f.flush() 和异常后清理
aiofiles 写入默认是缓冲的,await f.write() 成功不代表数据已落盘。尤其在程序意外退出前,缓冲区内容可能丢失。
- 关键日志或配置写入后,加
await f.flush()强制刷到 OS 缓冲区 - 如需确保落盘(如金融类场景),还得调
os.fsync(f.fileno()),但这是同步阻塞调用,得用loop.run_in_executor包一层 -
async with会在退出时自动close(),但如果中间抛出异常且没捕获,flush可能被跳过——建议写关键数据时主动try/except/finally保障
示例:
立即学习“Python免费学习笔记(深入)”;
async with aiofiles.open('config.json', 'w') as f:
await f.write(json.dumps(cfg))
await f.flush() # ← 这行不能省
真正容易被忽略的是:aiofiles 对文件锁、并发写同一路径、原子写入(如先写临时文件再 rename)等高级需求,完全不提供支持——这些得靠上层自己用 asyncio.Lock 或 os.replace() 组合实现。

















