Nginx实现流量按需分发的核心是结合业务场景选择upstream调度算法，并辅以健康检查、权重控制和连接管理。1. 轮询适用于性能一致的无状态服务；2. 加权轮询适配异构服务器；3. ip_hash保障会话保持；4. least_conn优化长连接负载；5. generic hash支持自定义键实现缓存与状态一致性。
nginx 实现流量按需分发与调度，核心在于结合业务场景选择合适的 upstream 调度算法，并辅以健康检查、权重控制和连接管理等机制，让请求真正“按需”落到最合适的后端节点上。
按业务需求选对调度算法
nginx 提供多种内置算法，每种对应不同“需”：
- 轮询（默认）：适合后端服务器性能一致、服务无状态的场景，比如静态资源 CDN 或通用 API 网关。它不感知负载，只保证请求顺序均摊。
-
加权轮询：当服务器硬件配置或部署环境不同时（如新老机器混用、云主机规格差异），通过
weight显式分配比例。例如server 192.168.1.10 weight=5与server 192.168.1.11 weight=1，前者接收约 83% 的请求。 - ip_hash：解决会话保持问题，确保同一客户端 IP 始终打到同一台后端。适用于未引入共享 session 存储的传统登录系统，但要注意 NAT 环境下多个用户共用出口 IP 可能导致倾斜。
- least_conn：优先发给当前活跃连接数最少的服务器，特别适合长连接类服务（如 WebSocket、gRPC 流式接口），能缓解连接堆积带来的响应延迟。
- generic hash：支持自定义哈希键，比如按 URL 路径或 Cookie 中的 user_id 分发，实现“相同资源/用户始终由同一实例处理”，利于缓存局部性与状态一致性。
让分发更“智能”的关键配置项
光靠算法不够，还需配合以下参数提升按需能力：
-
健康检查（被动）：nginx 默认在连接失败、超时或收到 5xx 响应时标记服务器为不可用，并在
fail_timeout内跳过它。可显式配置max_fails=2 fail_timeout=10s控制判定灵敏度。 -
备用节点（backup）：在 upstream 中添加带
backup标记的 server，仅当所有主节点不可用时才启用，适合灾备或低峰期降级使用。 -
连接限制与超时：通过
proxy_next_upstream error timeout http_500指令，允许在后端出错时自动重试另一台，提升容错率；配合proxy_connect_timeout和proxy_read_timeout避免慢节点拖垮整体。
应对动态变化的实用策略
真实业务中，“需”是动态变化的，nginx 虽不原生支持实时指标驱动调度，但可通过组合方式逼近目标：
- 新上线服务器先设低权重（如
weight=1），观察 CPU、响应时间等指标稳定后再逐步调高，避免流量突增压垮节点。 - 配合外部工具做灰度引流，例如用 OpenResty + Lua 解析请求头中的灰度标识，将特定流量定向到指定 upstream 组。
- 对于响应时间敏感型服务，可引入第三方模块（如
ngx_http_upstream_fair），按后端实际响应快慢分配请求，但需自行编译安装。
配置结构要点提醒
所有调度逻辑都定义在 upstream 块内，且必须被 proxy_pass 引用。注意：
- 一个
upstream块内只能使用一种主调度算法（如ip_hash和least_conn不能共存）； - 权重只在加权轮询或加权 least_conn 下生效；
-
ip_hash会自动忽略weight和max_fails，因为它依赖哈希稳定性； - 修改配置后需执行
nginx -t && nginx -s reload生效，不中断现有连接。
