若遇API请求排队、超时或RateLimitExceeded错误，说明已达并发限制；可通过确认模型配额、切换高QPM模型、启用异步调用、优化连接池与超时参数、部署本地代理节流器五种方案提升QPS。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您调用通义千问API时遭遇请求排队、超时或返回RateLimitExceeded错误，则极有可能已触及当前账号或模型的并发请求限制。以下是提升千问API QPS的多种可行方案：
一、确认当前模型的并发配额标准
不同Qwen模型具有独立的每分钟调用次数（QPM）与Token消耗（TPM）双重限制，且限流按阿里云主账号下所有API密钥对该模型的总调用量累计计算。准确识别所用模型的基准配额是优化QPS的前提。
1、登录DashScope控制台，进入“API密钥管理”页面。
2、在左侧导航栏选择“用量与配额”，点击“配额详情”标签页。
3、在模型列表中定位您正在调用的模型名称，例如qwen-turbo、qwen-plus或qwen-max-1201。
4、查看该模型当前的“每分钟调用次数上限”数值，并比对实时使用率柱状图，确认是否已达100% QPM占用。
二、切换至更高QPM配额的模型
部分模型在相同账号下提供更宽松的基础调用频次限制，无需申请即可立即生效，属于低侵入性调整，适用于临时高负载场景。
1、将API请求中的model参数由qwen-max改为qwen-turbo。
2、验证新模型是否满足业务需求：qwen-turbo支持最高500 QPM，适合高并发短文本交互。
3、若原使用qwen-longcontext且需长上下文处理，可尝试qwen-longcontext（5 QPM但TPM达1,500,000），注意其调用频次显著降低但Token承载能力更强。
三、启用异步调用与并发控制
通过异步事件循环并行发起多个API请求，避免同步阻塞导致的线程闲置，显著提升单位时间内完成的请求数量。需配合连接池复用和合理并发数限制，防止触发服务端限流。
1、安装支持异步的HTTP客户端：pip install httpx --upgrade。
2、定义异步请求函数，使用httpx.AsyncClient复用连接。
3、使用asyncio.gather并发执行多个Generation.call请求，控制最大并发数为10～20（避免突发流量被拒绝）。
4、捕获RateLimitError等异常，对失败请求实施指数退避重试。
四、配置连接池与超时参数
默认HTTP连接未复用且超时过长，会导致大量空闲连接堆积与响应延迟累积。显式配置连接池可复用底层TCP连接，降低握手开销，并缩短无效等待时间。
1、初始化dashscope客户端时传入httpx.AsyncClient实例，设置max_connections=100、max_keepalive_connections=20。
2、全局设置timeout参数：timeout=httpx.Timeout(10.0, connect=5.0, read=5.0)。
3、禁用重定向以减少额外跳转耗时：follow_redirects=False。
4、在请求头中添加X-DashScope-Async: true（如服务端支持异步响应模式）。
五、部署本地代理与请求节流器
在应用层前置轻量级代理服务，统一管理请求队列、令牌桶限流及失败熔断，既能平滑突发流量，又能避免因瞬时超限导致整批请求被拒。
1、基于nginx或Envoy配置上游为DashScope API endpoint的反向代理。
2、启用rate_limiting模块，设定每秒令牌发放速率与桶容量，例如100r/s，burst=200。
3、配置retry_on 503与proxy_next_upstream_tries 3，提升失败容忍度。
4、在代理层记录X-RateLimit-Remaining与Retry-After响应头，动态调整下游并发策略。
