讲师中心 微信公众号

工具推荐

视频效率加速
SoundView
SoundView

字幕擦除翻译、配音口型同步

Laper
Laper

剧本策划到成片协作

剧云
剧云

中文短剧剧本制作平台

Seko
Seko

AI短剧一键生成成片

如何调整Uvicorn的连接池大小

云晨同学_3166

云晨同学_3166

发布时间:2026-11-19 10:50:25

|

565人浏览过

|

来源于php中文网

原创

Uvicorn不提供传统连接池,而是基于事件循环复用TCP连接;关键参数为--backlog(调TCP等待队列)、--limit-concurrency(控并发请求数)和--timeout-keep-alive(设HTTP空闲超时),需结合ulimit与异步代码协同优化。

如何调整uvicorn的连接池大小

Uvicorn 本身没有传统意义上的“连接池”概念——它不维护数据库或 HTTP 客户端那种可复用的长连接池,而是通过事件循环 + 复用 TCP 连接(keep-alive)来管理客户端连接。所谓“调连接池大小”,实际是调 backlog、limit-concurrency 和底层异步 I/O 的并发承载能力。

为什么不能直接设 connection_pool_maxsize

你可能从 kubernetes 或 requests 库里熟悉 connection_pool_maxsize,但 Uvicorn 的 ASGI 服务器模型完全不同:它不为每个上游服务建连接池,也不暴露类似参数。误以为存在这个配置,容易在 config.py 或启动命令里白折腾。

  • Uvicorn 的核心是单个事件循环处理成百上千并发连接,靠的是操作系统 TCP 队列和 asyncio 的协程调度,不是预分配连接对象
  • 如果你在 FastAPI 里用 httpx.AsyncClient 调外部 API,那才需要配它的 limits;Uvicorn 不管那一层
  • 试图给 Uvicorn 加 --connection-pool-size 这类参数会报错:unrecognized arguments

真正该调的三个关键参数

这些参数控制的是“能同时接受多少新连接”“允许多少并发请求处理中”“连接空闲多久断开”,直接影响高并发下的排队、超时和资源占用。

Uvicorn 0.52.1
Uvicorn 0.52.1

Uvicorn 0.52.1 是 Python ASGI Web 服务器,提供异步应用服务及 WebSocket 支持,常用于 FastAPI、Starlette 等应用的开发和部署。本下载为官方 PyPI 通用 wheel 包,可使用 pip 安装,并由包管理器处理所需依赖。

下载
  • --backlog:TCP 连接等待队列长度,默认 100,建议设为 2048(尤其在 Nginx 前置或直面公网时),避免 SYN 包被丢弃
  • --limit-concurrency:限制**当前正在处理的请求数**(不是连接数),防止内存爆掉;设太小会导致请求被拒绝并返回 503,设太大可能触发 OOM;生产建议从 1000 起步,按 P99 内存曲线调整
  • --timeout-keep-alive:HTTP keep-alive 空闲超时,默认 5 秒;设太长(如 60 秒)会让连接长期挂起,占满 ulimit -n;Dify 等场景明确要求 ≤5 秒

多进程下每个 worker 的连接承载怎么算

加 --workers 8 并不等于并发能力 ×8,因为每个 worker 是独立进程+独立事件循环,但共享同一监听 socket,且受系统 ulimit -n 和内核 net.core.somaxconn 限制。

  • 总并发连接上限 ≈ min(ulimit -n, net.core.somaxconn),不是 workers × backlog
  • 每个 worker 的 --backlog 是各自 accept 队列长度,但内核层面只有一个全连接队列,所以设太高无意义
  • 如果你发现日志频繁出现 ConnectionResetError 或 Too many open files,先查 ulimit -n,再调 --backlog,最后考虑加 workers

异步代码写法不当会让“连接池”形同虚设

即使你把 --limit-concurrency 设到 2000,只要有一个路由里写了 time.sleep(3) 或用了同步数据库驱动(如 psycopg2),整个 worker 就会卡住——因为 asyncio 事件循环被阻塞,其他协程无法调度。

  • 必须用 asyncpg、httpx.AsyncClient、aioredis 这类真正异步库
  • 同步操作务必包在 loop.run_in_executor 里,否则 --workers 再多也救不了
  • 检查中间件是否含阻塞调用;比如某些 JWT 解析库默认用同步 RSA 签名,会悄悄拖垮并发

最常被忽略的一点:Uvicorn 的“连接管理”效果,最终取决于你写的 ASGI 应用是否真异步。参数只是边界,代码才是瓶颈。调完 --backlog 和 --limit-concurrency 后,务必用 ab 或 hey 实测,看 Failed requests 和 Time per request 是否随参数变化而改善——而不是只盯着配置文件改数字。

热门AI工具

更多
小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

相关专题

更多
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

119

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

594

2026.02.06

Python Web框架FastAPI 全栈开发教程合集
Python Web框架FastAPI 全栈开发教程合集

以 FastAPI 为核心,讲解现代 Python Web API 的高效开发方式,涵盖路由定义与路径参数/查询参数/请求体绑定、Pydantic 模型的数据校验与序列化、依赖注入(Depends)系统的分层设计、中间件与 CORS 配置、OAuth2 + JWT 认证流程、后台任务(BackgroundTasks)、WebSocket 实时通信、SQLAlchemy 异步 ORM 集成、自动生成 OpenAPI/Swagger 交互文

796

2026.05.09

Python FastAPI异步微服务与高性能接口设计
Python FastAPI异步微服务与高性能接口设计

本专题聚焦 Python FastAPI 框架在高性能接口与微服务开发中的应用,讲解异步请求处理、依赖注入机制、路由设计、数据库异步操作以及接口性能优化策略。结合实际项目案例,帮助开发者构建高并发、低延迟的现代化后端服务架构。

679

2026.06.16

GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

20

2026.11.17

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

20

2026.11.17

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

20

2026.11.17

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

20

2026.11.17

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

20

2026.11.17

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方部署指南
Uvicorn官方部署指南

共0课时 | 0人学习

Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn