讲师中心 微信公众号
AI工具推荐 视频效率加速

详解Uvicorn的--workers参数使用

千强姑娘_6576

千强姑娘_6576

发布时间:2026-10-29 11:08:28

|

271人浏览过

|

来源于php中文网

原创

--workers仅在CPU利用率长期低于60%、存在同步阻塞或GPU显存未充分利用时才有效;盲目增加会导致OOM、连接池耗尽或吞吐下降,须结合物理核心数、内存容量和请求模式谨慎设定。

详解uvicorn的--workers参数使用

--workers 参数不是“开越多越快”,它只在特定瓶颈下生效:单进程被同步阻塞卡死、CPU 利用率长期低于 60% 但 QPS 上不去、或 GPU 显存未被 batch 充分利用时,才值得启用。盲目设 --workers 8 可能导致内存 OOM、连接池爆满、缓存不一致,甚至吞吐下降。

什么时候必须加 --workers?看三个硬指标

Uvicorn 单进程靠 async/await 已能轻松扛住数千 I/O 请求。加 --workers 不是默认动作,而是对症下药:

  • 压测时 htop 显示 CPU 利用率持续低于 60%,但请求延迟飙升、QPS 卡在瓶颈 —— 说明单核吃不满,需要多进程并行
  • 代码里存在无法避免的同步阻塞调用:比如 time.sleep(1)、requests.get()、pandas.read_csv() 或未封装进 run_in_executor 的 numpy 计算
  • 部署的是推理服务(如 LLM 前处理或图像 batch 推理),单 worker 只能串行发请求,GPU 显存和算力大量闲置

--workers 数值怎么定?别信“2×CPU+1”

真实取值取决于三件事,且互相制约:

Uvicorn 0.52.1
Uvicorn 0.52.1

Uvicorn 0.52.1 是 Python ASGI Web 服务器,提供异步应用服务及 WebSocket 支持,常用于 FastAPI、Starlette 等应用的开发和部署。本下载为官方 PyPI 通用 wheel 包,可使用 pip 安装,并由包管理器处理所需依赖。

下载
  • 查物理核心数:nproc 输出为 4,--workers 4 是安全起点;超过 8 后吞吐增长通常趋缓
  • 看内存容量:每个 worker 是独立 Python 进程,加载一次大模型就占一份显存/CPU 内存;RTX 3060(12GB)实测最多稳住 4 个 worker,再多必 MemoryError
  • 观察请求模式:如果流量极不均匀(例如每分钟集中来 100 个大 batch),worker 数宁少勿多,避免空转开销和冷启动延迟

常见失效场景:设了 --workers 却没看到多个进程

启动后 ps aux | grep uvicorn 只看到 1 个主进程?大概率掉进这些坑:

  • 同时启用了 --reload:二者互斥,--reload 强制降级为单进程,且 fork 失败时静默回退
  • 用 Gunicorn 做前置但漏写 -k uvicorn.workers.UvicornWorker:Gunicorn 默认起的是同步 worker,async 路由直接报 TypeError: 'coroutine' object is not callable
  • Docker 容器未配 CPU quota:docker run --cpus=2 却设 --workers 4,内核调度失灵,部分 worker 启动即被 kill
  • Windows 环境下用 spawn 启动方式(默认),模块顶层代码被重复执行,可能触发重复初始化错误

多 worker 下的共享资源必须重设计

每个 worker 进程完全隔离,模块级全局变量、数据库连接池、Redis 客户端都不是共享的:

  • lifespan 的 startup 和 shutdown 会在每个 worker 里各执行一次 —— 不要在这里初始化全局 cache 或发通知
  • 顶层写的 db_pool = create_pool(...) 会被复制 N 份,容易触发 psycopg2.OperationalError: too many clients
  • 日志 handler 若未做进程安全配置,会导致日志重复写入、文件锁冲突
  • 正确做法:所有共享状态走外部存储(Redis 缓存、PostgreSQL 序列号)、连接池用 lazy init + 单例控制、生命周期逻辑收口到依赖注入容器

真正难的从来不是加几个数字,而是判断当前瓶颈是否属于多进程能解决的类型,以及能否承受进程隔离带来的状态管理复杂度。多数性能问题其实出在异步调用没写对、连接池没复用、或 SQL 没加索引——先确认这些,再碰 --workers。

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

119

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

574

2026.02.06

Python Web框架FastAPI 全栈开发教程合集
Python Web框架FastAPI 全栈开发教程合集

以 FastAPI 为核心,讲解现代 Python Web API 的高效开发方式,涵盖路由定义与路径参数/查询参数/请求体绑定、Pydantic 模型的数据校验与序列化、依赖注入(Depends)系统的分层设计、中间件与 CORS 配置、OAuth2 + JWT 认证流程、后台任务(BackgroundTasks)、WebSocket 实时通信、SQLAlchemy 异步 ORM 集成、自动生成 OpenAPI/Swagger 交互文

656

2026.05.09

Python FastAPI异步微服务与高性能接口设计
Python FastAPI异步微服务与高性能接口设计

本专题聚焦 Python FastAPI 框架在高性能接口与微服务开发中的应用,讲解异步请求处理、依赖注入机制、路由设计、数据库异步操作以及接口性能优化策略。结合实际项目案例,帮助开发者构建高并发、低延迟的现代化后端服务架构。

559

2026.06.16

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

40

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

0

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

80

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方部署指南
Uvicorn官方部署指南

共0课时 | 0人学习

Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn