非阻塞 I/O 是 Nginx 高效反向代理缓存的底层基础，它通过异步事件驱动使缓存读写、上游通信与客户端响应并行不阻塞，配合 sendfile、open_file_cache、aio threads 等机制提升整体吞吐与低延迟。
非阻塞 I/O 是 Nginx 实现高效反向代理缓存的底层基础，但它本身不直接“做缓存”，而是让缓存读写、上游通信、客户端响应这三个环节能并行不阻塞地运转——真正提升缓存效率的，是它支撑起的事件驱动调度能力。
让缓存读写不卡住其他请求
Nginx 的缓存操作（如读取本地 cache 文件、写入新缓存条目）默认走异步路径。当一个请求命中缓存时，Nginx 不会阻塞 worker 进程等待磁盘 IO 完成，而是注册事件、继续处理其他连接；等文件系统就绪后，再回调完成响应。这依赖于：
- 启用
sendfile on：对静态缓存文件，直接内核态传输，避免用户态拷贝 - 合理设置
open_file_cache：缓存文件句柄和元信息，减少 stat/open 系统调用开销 - 搭配
aio threads（Linux）：对大缓存对象或高延迟存储，将读写卸载到线程池，保持事件循环畅通
使上游请求与缓存填充异步并发
未命中缓存时，Nginx 需向后端发起请求，并把响应写入缓存。非阻塞 I/O 让这个过程可重叠：
- 发起 upstream 请求后，worker 立即返回事件循环，可同时处理其他客户端或上游连接
- 响应到达时，Nginx 边流式接收、边校验、边写缓存（若配置
proxy_buffering on），无需等全部数据收完才开始落盘 - 若后端支持 chunked 或流式响应（如 API 返回 SSE），配合
proxy_buffering off可实现“边收边返+边存”，降低端到端延迟
避免 keep-alive 连接因缓存逻辑被拖慢
HTTP/1.1 keep-alive 要求连接复用，但若缓存写入慢或磁盘忙，可能让连接空等。非阻塞模型通过以下方式缓解：
- 每个 keep-alive 连接在事件循环中独立登记，不因某次缓存落盘延迟而影响其他请求调度
- 配合
keepalive_timeout和upstream keepalive，确保前端连接与后端连接池解耦，避免缓存 IO 成为连接瓶颈 - 使用
proxy_cache_use_stale updating时，更新缓存的操作完全后台异步执行，前台始终返回旧内容，体验零感知
协同缓存策略释放非阻塞优势
非阻塞 I/O 的价值需匹配合理的缓存配置才能体现：
- 缓存键（
proxy_cache_key）应精简，避免哈希计算或变量拼接过重，否则 CPU 成为新瓶颈 -
proxy_cache_valid设置要贴合业务 TTL，避免高频过期引发集中回源与缓存重建压力 - 磁盘缓存目录建议使用 SSD 或 XFS 文件系统，减少 IO 延迟对异步队列的影响
- 对高并发小对象（如图标、JSON API），可考虑
proxy_cache_path ... use_temp_path=off减少临时文件切换开销
