Nginx客户端连接限速需分层设防：连接层用limit_conn限制单IP并发数，入口层调大系统及Nginx TCP队列，请求层按路径差异化限连，响应层通过健康检查自动摘除异常节点。
用 Nginx 的客户端连接限速配置平抑突发异常流量，关键不是“一刀切地卡死”，而是分层设防、按需缓冲、快速隔离。单纯靠 rate 限请求速率容易在短时洪峰下失效，必须结合连接层控制，从 TCP 建立源头稳住入口，再配合请求分流与响应容错，形成缓冲带。
连接层防护：限制单 IP 并发连接数
突发异常流量常表现为大量短连接堆积（如扫描、爬虫、脚本攻击），直接压垮 accept 队列或耗尽后端连接池。这时 limit_conn 比 limit_req 更早生效：
- 用 limit_conn_zone $binary_remote_addr zone=conn_perip:10m; 定义按 IP 统计的连接状态内存区；
- 在 location 或 server 块中加 limit_conn conn_perip 10;，即单 IP 最多保持 10 个并发连接；
- 对后台管理路径（如 /admin、/health）可进一步收紧，例如 limit_conn conn_perip 2;，防探针误触发雪崩。
入口稳压：同步调大系统与 Nginx 的连接队列
即使配置了限连，若底层 TCP 队列太小，SYN 包还没进 Nginx 就被内核丢弃，日志里都看不到痕迹：
- 系统级：调高 net.core.somaxconn 和 net.ipv4.tcp_max_syn_backlog（建议统一设为 65535）；
- Nginx 级：listen 指令必须显式声明 backlog=65535，例如 listen 80 backlog=65535;；
- 验证方式：压测时执行 ss -lnt | grep :80，观察 Recv-Q 是否接近你设的 backlog 值，否则说明仍存在队列溢出。
请求层分流：区分核心与非核心路径限连
不是所有请求都该一视同仁。连接限速要配合业务语义做差异化控制：
- 对读接口（如 /api/list）允许稍高连接数（如 20），但对写接口（如 /api/submit）严格限制（如 5），避免脏写打满数据库连接；
- 将埋点、分享、评论等非关键路径单独划出 location，配独立限连规则，防止它们拖垮主链路；
- 对已知可信来源（如内部运维网段），可用 if + set 配合 map 模块绕过限连，保障必要通道畅通。
响应层兜底：自动摘除异常节点并重试
连接限速能防住“量”，但挡不住“质”——后端某台机器响应慢或假死，会把连接卡住，导致限连阈值提前触达。需叠加健康感知：
- 启用 proxy_next_upstream error timeout http_500 http_502 http_503 http_504，让失败请求自动流转；
- 搭配 proxy_next_upstream_tries 2，最多重试一次，避免长尾放大；
- 配合 upstream 内的 max_fails=3 fail_timeout=30s，连续失败三次就临时摘除节点，等 30 秒再试探恢复。
不复杂但容易忽略：连接限速真正起效，依赖系统参数、Nginx listen 配置、限连规则、健康检查四者协同。漏掉任一环，都可能让突发流量绕过防线直冲后端。
