软负载均衡指基于实时异常信号（如5xx错误率、长尾响应时间、健康检查失败）动态调整节点权重的反馈式调度机制，通过OpenResty+Lua实现健康分计算与平滑权重调节，避免静态配置与硬下线引发的抖动。
“软负载均衡”不是指软件实现的负载均衡器，而是强调一种动态、反馈驱动、无需硬件干预的流量调度逻辑——其中核心就是根据下游服务的实时异常表现，自动调整各节点的请求权重。它不依赖预设配置或静态算法，而是把错误率、超时、熔断等异常信号当作关键输入，实时影响路由决策。
异常变量怎么选？重点看三类信号
真正能反映下游健康度的指标，不是CPU或内存使用率这类间接数据，而是直接来自请求链路的异常反馈：
- 5xx错误率突增：比如某节点502/504比例超过阈值（如5%），说明后端进程已无法正常响应，应立即降低其权重甚至临时摘除；
- upstream_response_time长尾明显：P95 > 2s 或 P99 > 5s，且集中在某台机器，大概率是GC卡顿、锁竞争或DB连接池打满，需降权避免雪崩；
- 健康检查连续失败 + warn级日志：Nginx中upstream server temporarily disabled出现频次高，说明探测已触发熔断，此时权重应归零，待恢复后再渐进式回升。
权重怎么调？不是开关，而是渐进式衰减与恢复
硬性“下线”容易引发抖动，理想的软负载应支持平滑调节：
- 初始权重按服务器规格设定（如新机权重10，旧机权重6）；
- 每分钟统计该节点最近1000次请求的5xx率和P95响应时间，生成健康分（0～100）；
- 当前权重 = 原始权重 × 健康分 ÷ 100，但设置上下限（如不低于原始权重的20%，不高于120%）；
- 恢复阶段采用“指数回升”：健康分连续3分钟＞95，权重每分钟+5%，避免瞬间压垮刚恢复的服务。
怎么落地？Nginx + OpenResty 是轻量首选
原生Nginx不支持运行时权重热更新，但通过OpenResty可嵌入Lua逻辑，实现实时反馈闭环：
- 在log_by_lua阶段采集$upstream_status、$upstream_response_time、$upstream_addr；
- 用shared_dict缓存各后端的实时健康分，供balancer_by_lua动态读取；
- balancer_by_lua中按健康分加权随机选择上游，替代默认轮询；
- 配合Prometheus+Alertmanager，当某节点健康分＜30持续2分钟，自动触发告警并人工复核。
注意别踩的坑
这类机制看似智能，但设计不当反而放大故障：
- 不能只看单点错误率——若全量5xx飙升，可能是上游网关或认证服务崩了，而非下游节点问题；
- 避免“负反馈循环”：某节点因瞬时抖动被降权，剩余流量全涌向其他节点，导致它们也相继超载；
- 日志采样要真实：避开$request_time干扰，必须用$upstream_response_time；同时确保log_format开启，否则字段为空。
