Nginx 通过长连接复用、分层超时、故障重试、动态DNS解析和本地缓存五大策略实现后端容错。具体包括：upstream启用keepalive并配合proxy_http_version 1.1；精细设置connect/send/read超时；proxy_next_upstream配置错误类型与重试限制；resolver支持动态DNS更新；proxy_cache缓存幂等GET请求。

proxy_pass 本身只是转发指令，它不自带容错能力。真正让 Nginx 在后端波动时“稳住”的，是一整套配套策略：连接管理、超时控制、失败重试、流量隔离和动态感知。

---

启用长连接复用，减少建连冲击

后端频繁重启或响应变慢时，短连接会迅速耗尽 Nginx worker 连接数，并加剧握手延迟。
必须显式启用 HTTP/1.1 长连接：

• 在 upstream 块中配置 keepalive 32;（建议值 16–64，视后端并发能力调整）
• 在 location 中声明：

  proxy_http_version 1.1;
  proxy_set_header Connection "";

• 确保后端服务（如 FastAPI、Node.js）未主动关闭 keep-alive，且支持持久连接

这样可复用已有连接，避免每请求都三次握手，显著缓解突发建连压力。

---

设置分层超时，防止请求堆积

默认超时太宽泛，容易导致 worker 被卡死在慢响应上。应按阶段精细设限：

• proxy_connect_timeout 5s：连接后端不能拖太久，5 秒内连不上就换节点
• proxy_send_timeout 30s：发完整请求体给后端的上限，防大 body 卡住
• proxy_read_timeout 30s：等待后端响应头+体的总时间，略高于后端平均处理时长
• proxy_buffering on; proxy_buffer_size 128k;：避免小响应阻塞大响应缓冲区

这些参数共同作用，让 Nginx 主动放弃“拖后腿”的请求，而不是被动堆积。

---

配置自动故障转移与重试

单点失败不该导致整个请求失败。关键靠 proxy_next_upstream：

proxy_next_upstream error timeout http_500 http_502 http_503 http_504;
proxy_next_upstream_tries 3;
proxy_next_upstream_timeout 10s;

• error：连接被拒绝、重置等底层错误
• timeout：包含 connect 和 read 超时
• http_5xx：后端明确返回的错误状态码
• tries 和 timeout 控制重试总次数与总耗时，避免无限兜底

配合 upstream 中定义 backup 节点，还能实现降级兜底。

FastAPI Flask Proxy

FastAPI + Flask 混合部署最佳实践，解决路由定义、API 代理等常见问题，适用于同时运行 FastAPI API 与 Flask 前端的场景。

下载

---

支持动态 DNS 更新，适应服务发现变化

若后端通过域名注册（如 Kubernetes Service、Consul），DNS 变更后 Nginx 默认不会刷新——它缓存 IP 直到进程重启。

必须启用运行时解析：

resolver 8.8.8.8 114.114.114.114 valid=60s;
resolver_timeout 5s;

• valid=60s 强制每分钟重新查 DNS，匹配常见服务发现 TTL（建议设为上游 TTL 的 1/3～1/2）
• 至少配两个 DNS 服务器，防止单点失效
• resolver_timeout 防止 DNS 查询阻塞请求，超时后可 fallback 到旧缓存或触发 proxy_next_upstream

---

（可选）加一层简单缓存，过滤高频幂等请求

对稳定 GET 接口（如 /api/config, /api/feature-flag），本地缓存能直接拦截大量重复请求：

proxy_cache_path /var/cache/nginx/api_cache levels=1:2 keys_zone=api_cache:10m max_size=1g inactive=1h;
# 在 location 中：
proxy_cache api_cache;
proxy_cache_valid 200 5m;
proxy_cache_key "$scheme$host$request_uri";

注意：POST/PUT 默认不缓存；如需缓存，须额外加 proxy_cache_methods POST; 并确保语义安全。

不复杂但容易忽略