Nginx集群实现智能请求分发需构建“感知—反馈—响应”闭环:主动健康检查(含语义校验)、真实流量反馈捕获、结构化状态暴露、依据状态动态路由调整。

Nginx 集群要真正“聪明”地分发请求,关键不是只靠预设规则,而是让每次调度都基于后端当前真实状态——健康与否、响应快慢、连接压力大小。这需要把被动转发升级为主动感知 + 快速响应的闭环。
主动探测后端健康状态,避免“假在线”
Nginx 默认只在请求失败时才剔除节点,容易把“返回 503 但进程还在”的节点当成可用。必须启用主动健康检查:
- 使用
nginx_upstream_check_module(编译时加载)或 OpenResty 的lua-resty-checkups - 在
upstream中配置探测路径,例如/healthz或/actuator/health - 设置
interval=3s fall=2 rise=2 timeout=1s,兼顾灵敏度与抗抖动 - 关键是语义校验:用
check_http_expect_alive http_2xx,拒绝把返回{"status":"DOWN"}或 HTTP 503 的节点标记为 up
捕获真实请求反馈,补全业务层视角
主动探测再勤快,也覆盖不了所有接口逻辑和数据路径。真实流量才是最终判据:
- 开启
proxy_next_upstream error timeout http_502 http_503 http_504,让失败请求自动重试其他节点 - 在
access_log中记录$upstream_addr $upstream_response_time $upstream_status,便于定位某节点延迟突增或错误率升高 - 若用 OpenResty,可在
log_by_lua_block中统计各节点 5xx 比率或 P95 延迟,超阈值时写入 shared_dict 触发临时降权
暴露结构化状态接口,支撑监控与联动
感知若不能被读取、不能被调用,就只是日志里的沉默数据:
- 配置
/statuslocation 返回 JSON,字段至少含:IP、状态(up/down)、连续失败次数、最后探测时间、响应中位耗时 - 限制访问来源(如
allow 10.0.0.0/8; deny all;),防止内部拓扑泄露 - 对接 Prometheus:用
nginx-module-vts或自定义 Lua exporter 抓取指标,设置upstream_down == 1触发告警
依据状态动态调整路由行为,完成闭环
状态感知的终点是动作:
- 探测到节点 down 时,自动写日志并调用 webhook 通知值班群
- 在
balancer_by_lua_block中读取健康评分,跳过低分节点或按权重衰减其流量比例 - 服务优雅下线前,将目标节点
weight=0或启用slow_start=30s,让流量逐步迁移,不冲击其余节点
不复杂但容易忽略


















