fastapi 0.163.0于11月14日发布,新增depends(max_concurrency=...),用于限制同时进入某个依赖的请求数量。资源不足时,后续调用等待已有调用释放额度;官方说明,等待过程不会占住工作线程。11月15日发布的0.163.1继续包含这项能力。

FastAPI官方文档中的max_concurrency示例
共享的是同一个Depends对象
多个路由复用同一个Annotated依赖别名时,可以共享一组并发额度。即使依赖函数相同,为每个路由重新创建Depends对象也会形成不同额度;这一区别会直接影响数据库连接等共享资源的实际占用。
对使用yield的依赖,额度要等退出代码完成后才释放,退出时机仍由scope决定。不使用yield时,该次依赖调用结束即可释放额度。子依赖会先于当前依赖的额度控制执行,因此限制应放在实际获取资源的位置。

FastAPI官方文档中的连接池与进程边界
进程数与事件循环仍是容量边界
max_concurrency需要正整数,默认None表示不额外限制。额度以工作进程和事件循环为边界:两个worker各配置5,并不等于整个服务总共只有5个连接。FastAPI也不会自动读取数据库连接池的容量。
官方文档还提醒,同一请求在持有一个额度时再次等待相同资源,或不同资源以相反顺序获取,都可能相互等待。0.163.1另外修复了响应模型含嵌套计算字段时的OpenAPI生成问题;这与新增并发控制是不同变更。



















