为什么 FastAPI 以串行方式而不是并行方式运行 API 调用？

FastAPI 以串行方式而不是并行方式运行 API 调用

问：为什么 FastAPI API 调用以串行方式而不是并行方式运行？

A:根据FastAPI的文档，当使用def 代替 async def 定义路径操作函数，它在外部线程池中运行，然后等待，而不是直接调用。这样做是为了防止阻塞服务器。

并行执行的其他注意事项：

异步 def 与 def 端点：

• async def: 函数直接运行事件循环；只要它们等待非阻塞 I/O 绑定操作，就会同时处理。
• def: 函数在与外部线程池分开的线程中运行；将串行处理，除非在事件循环之外运行。

使用阻塞操作：

如果 async def 端点包含阻塞操作并且不等待完成后，它将阻塞事件循环并处理请求

解决方案：

• 使用普通 def 而不是 async def 定义端点（如果没有可等待的操作）。
• 使用FastAPI的run_in_threadpool()函数在单独的线程中执行阻塞任务
• 使用asyncio的loop.run_in_executor()或asyncio.to_thread()在单独的执行器或线程中运行阻塞任务。

其他优化策略：

• 使用更多工人来利用多核 CPU。
• 考虑使用 Celery 或 AsyncIOScheduler 进行繁重的后台计算。

以上是为什么 FastAPI 以串行方式而不是并行方式运行 API 调用？的详细内容。更多信息请关注PHP中文网其他相关文章！