Nginx反向代理TCP连接堆积主因是上下游连接生命周期管理失当，需通过upstream keepalive调优、HTTP/1.1复用配置、三类超时精准设置、限流控队及多维监控定位根因。
当Nginx作为反向代理做负载均衡时，后端服务器（如Tomcat、Node.js、Python应用）出现TCP连接堆积，本质是Nginx与上游服务之间的连接生命周期管理不当，而非单纯增加worker数量或超时时间就能解决。关键在于控制连接复用、及时释放、避免队列积压。
调整upstream连接复用策略
Nginx默认对每个upstream server维护独立的keepalive连接池，但若未显式配置，长连接不会复用，导致频繁建连+TIME_WAIT堆积；若配置不当，又可能让空闲连接长期占用后端资源。
- 在upstream块中启用keepalive，并设合理连接数：
upstream backend {<br> server 192.168.1.10:8080;<br> server 192.168.1.11:8080;<br> keepalive 32;<br>}
注意：keepalive值不是越大越好，应略高于单个worker进程并发请求峰值，通常16–64之间较稳妥。 - 在location块中强制使用HTTP/1.1并清除“Connection: close”头：
proxy_http_version 1.1;<br>proxy_set_header Connection '';
否则Nginx可能因收到后端返回的Connection: close而主动断开复用连接。
优化超时参数防止连接滞留
连接堆积常源于超时设置过长或不匹配——比如Nginx等待后端响应太久，同时又持续接受新请求，最终耗尽本地端口或连接句柄。
- 区分三类超时，按实际链路延迟设定（建议从低值起步再调优）：
proxy_connect_timeout：与后端建连时限，一般设为1–3秒；
proxy_send_timeout：Nginx向后端发完请求后，等待后端接收完成的时限，设为10–30秒；
proxy_read_timeout：Nginx等待后端完整响应的时限，应略大于后端最长业务处理时间（如API平均耗时5s，则设为15s）。 - 禁用不必要重试：
proxy_next_upstream off;
或仅限特定错误重试：proxy_next_upstream error timeout http_500;
避免一次失败请求触发多次连接尝试，加重后端压力。
限制并发连接与队列深度
光靠超时不够，需主动控流。Nginx本身不直接限后端连接数，但可通过客户端连接控制间接影响上游压力。
- 用limit_conn限制单IP或key的并发连接数：
limit_conn_zone $binary_remote_addr zone=addr:10m;<br>limit_conn addr 16;
防止单个恶意或异常客户端占满所有可用连接。 - 用queue指令（Nginx Plus或开源版1.23.3+）控制等待队列：
queue 128 timeout=5s;
超出活跃连接上限的请求进入队列，超时则返回503，比直接拒绝更可控。 - 配合proxy_buffering off慎用：关闭缓冲会令Nginx边收边转，增大后端连接持有时间；高吞吐场景建议保持开启，并调大buffer大小（如proxy_buffers 8 128k）。
监控与定位真实瓶颈
连接堆积可能是表象，背后可能是后端处理慢、DB阻塞、GC停顿或网络丢包。不能只调Nginx。
- 检查Nginx连接状态：
ss -ant | grep :80 | wc -l查ESTABLISHED总数；netstat -s | grep -i "tcp:"关注retransmit、timeouts等指标。 - 采集upstream状态：
启用stub_status模块或使用nginx-module-vts，重点关注active、writing、waiting及failed计数；
若writing长期高企，说明后端写响应慢；waiting多且增长快，说明后端处理不过来或Nginx读取响应慢。 - 同步查看后端机器的
ss -s和netstat -an | grep :8080 | awk '{print $6}' | sort | uniq -c，确认TIME_WAIT是否集中在后端，以及是否存在大量CLOSE_WAIT（表明后端未主动关闭连接）。
