启用模型连接池预热、配置本地模型路由缓存、限制上下文初始化粒度、绑定专属模型实例资源组，可显著降低WorkBuddy模型切换延迟。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您在使用腾讯WorkBuddy时发现模型切换响应迟缓、等待时间明显延长，则很可能是由于每次切换均需新建远程推理连接、加载模型上下文及验证会话状态所致。以下是解决此问题的步骤：
一、启用模型连接池预热
WorkBuddy底层调用多个第三方大模型API（如Kimi、GLM-5、DeepSeek），每次切换模型默认重建HTTP连接并完成TLS握手，造成数百毫秒级延迟。通过复用已建立的长连接并预热常用模型通道，可跳过重复建连开销。
1、在WorkBuddy设置页进入「高级配置」→「模型连接管理」，开启「连接池复用」开关。
2、勾选需高频使用的3个核心模型（例如GLM-5、DeepSeek-Coder、MiniMax），点击「预热所选模型」按钮。
3、系统将在后台为每个选定模型维持2个空闲keep-alive连接，并在启动后30秒内完成SSL握手与鉴权令牌刷新。
4、验证是否生效：切换至已预热模型后，首次响应时间应稳定在≤180ms（未预热通常为450–900ms）。
二、配置本地模型路由缓存
WorkBuddy客户端在本地维护模型服务地址映射表，若DNS解析或服务发现未缓存，每次切换均触发同步查询，引入额外网络延迟。启用本地路由缓存可消除该环节。
1、打开终端执行：workbuddy-cli config set route.cache.enabled true。
2、运行命令：workbuddy-cli config set route.cache.ttl 3600（单位：秒，建议设为1小时）。
3、重启WorkBuddy桌面客户端，使配置生效。
4、后续模型切换将直接读取本地缓存的endpoint地址，避免DNS查询与重定向跳转，实测降低平均120ms延迟。
统一LLM网关 - 一个API对接70+AI模型，使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
三、限制模型上下文初始化粒度
部分模型（如Kimi、GLM-5）在切换时默认加载完整对话历史作为上下文，导致序列化/反序列化耗时陡增。通过禁用非必要上下文传递，可显著缩短初始化阶段。
1、进入「任务设置」→「模型行为偏好」，关闭「自动同步全部历史对话」选项。
2、启用「按需加载最近3轮上下文」功能，确保仅传输当前任务强依赖的交互片段。
3、对纯指令类任务（如代码重构、文案润色），手动选择「无上下文模式」。
4、该设置可使模型warm-up阶段CPU占用下降约40%，冷切换耗时压缩至≤220ms。
四、绑定专属模型实例资源组
WorkBuddy默认使用共享型模型API网关，高峰时段排队等待资源分配。为关键模型指定独占资源组，可绕过排队队列，获得确定性低延迟调度。
1、登录WorkBuddy企业控制台，在「模型管理」中创建新资源组，命名为「high-priority-coder」。
2、为该资源组分配2个专用GPU实例（推荐A10或L4规格），并绑定DeepSeek-Coder与GLM-5模型。
3、在客户端设置中，将「代码相关任务」的默认模型路由策略修改为指向该资源组。
4、启用后，模型切换请求将直连专属实例，规避共享网关排队，实测P95延迟稳定在≤150ms。
