Nginx代理Java应用发挥长连接优势需三方协同：合理设置upstream keepalive（推荐32～64，按公式≈(单worker并发峰值×平均响应时间)÷2）、Java后端匹配超时（如Tomcat connection-timeout＞proxy_read_timeout）、客户端开启keep-alive并清除Connection头。

要让 Nginx 代理 Java 应用时真正发挥长连接优势，关键不是盲目调大连接池，而是让 Nginx 的 keepalive、Java 后端的连接保持策略、以及客户端行为三者协同。池子太小会频繁建连，太大则浪费内存且可能触发系统限制，必须按实际并发模型来配。

明确 Nginx upstream 的 keepalive 值怎么设

这个值控制每个 worker 进程与后端 Java 服务之间维持的空闲长连接数，不是总连接数，也不是每秒请求数：

• 推荐起点是 32～64：适用于单节点 Java 服务（如 Spring Boot 内嵌 Tomcat）处理能力在 1000–3000 QPS 场景
• 公式参考：keepalive ≈ (单 worker 并发请求峰值 × 平均响应时间) ÷ 2，比如峰值 2000 RPS、平均耗时 150ms，则 ≈ 2000 × 0.15 ÷ 2 ≈ 150，可设为 128
• 务必配合 least_conn 调度算法，避免连接堆积在个别节点上
• 禁用 ip_hash 或强一致性哈希——长连接复用下容易导致负载严重不均

Java 后端需匹配 Nginx 的超时节奏

如果 Java 服务提前断开连接，Nginx 的 keepalive 就失效。以 Tomcat 为例（Spring Boot 默认），重点调以下参数：

Alibabacloud Sdk Client Initialization For Java

在 Java 中初始化和管理阿里云 SDK客户端。包括单例模式、线程安全、endpoint 与 region 配置、VPC 终端节点、同步与异步等。

下载

• server.tomcat.connection-timeout=300000（5 分钟）：必须 > Nginx 的 proxy_read_timeout
• server.tomcat.max-keep-alive-requests=10000：设为较大值或 -1（不限制），避免 Java 主动关闭复用连接
• 若用 Netty（如 gRPC 或自研 HTTP 服务），检查 ChannelOption.SO_KEEPALIVE 和 IdleStateHandler 的读写空闲超时，确保不低于 Nginx 的 keepalive_timeout

客户端与 Nginx 之间的 keepalive 也要对齐

客户端（如移动端、前端 JS、其他微服务）若不复用连接，Nginx 与后端的长连接再稳也白搭：

立即学习“Java免费学习笔记（深入）”；

• Nginx 配置中显式开启：keepalive_timeout 75s; 和 keepalive_requests 1000;
• location 块里必须加：proxy_http_version 1.1; 和 proxy_set_header Connection "";（清空 Connection 头，防止透传 close）
• 提醒调用方：HTTP 客户端（OkHttp、Apache HttpClient、fetch/axios）默认支持 keep-alive，但需确认未手动设置 Connection: close

验证是否真复用了连接

光看配置没用，得用工具确认连接复用生效：

• 在 Nginx 机器执行：ss -tnp | grep :8080 | wc -l（假设 Java 端口是 8080），高并发压测时该数值应远小于并发请求数（比如 1 万请求只看到 50–100 条 ESTAB）
• 打开 Nginx 日志中的 $connection_requests 变量，观察同一连接处理的请求数是否持续上升
• 抓包看 TCP 流：连续多个 HTTP 请求是否复用同一个 TCP 流（源/目的 IP+端口不变）