Fitten Code API支持多模型动态路由:通过Header(X-FIT-Model)、Body中model字段、别名或正则规则自动匹配,需先安装多模型并重启服务,否则静默降级。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你想在Fitten Code API中根据任务复杂度实时切换7B、14B、32B等不同参数规模的模型,避免手动改配置、重启服务、丢失上下文——比如写脚本用qwen2.5-coder:7b,做架构设计切deepseek-r1:32b,查文档摘要换qwen2.5:14b,整个过程必须秒级完成且不中断当前会话。
确认Fitten Code API已启用多模型路由
执行curl -X GET http://localhost:8080/v1/models,返回JSON中必须包含至少两个不同参数量级的模型条目,例如"qwen2.5-coder:7b"和"deepseek-r1:32b"。如果只看到一个模型或返回404,说明后端未加载多模型插件,需先运行fitten-cli model install --all并重启服务。
这一步不能跳过。Fitten Code默认只启用主模型,【未显式安装其他模型时,API请求会静默降级到默认模型,不会报错也不会提示】。
通过HTTP Header动态指定模型
在调用/v1/chat/completions接口时,在请求头中加入X-FIT-Model: qwen2.5-coder:7b即可强制使用该模型,无需修改body内容。
支持的模型标识必须与fitten-cli model list输出完全一致,包括冒号和版本后缀。写成qwen2.5-coder或qwen2.5-coder:7b-v2都会导致400错误。
Header方式最轻量,适合CI/CD流水线中按阶段绑定模型——测试阶段用llama3.2:3b保速度,发布前审查用deepseek-r1:14b提质量。
在请求Body中嵌入模型选择
方法一:直接指定model字段
在JSON body里把"model": "deepseek-r1:32b"作为顶层键值对传入,覆盖全局默认设置。这种方式最直观,但要求每次请求都携带完整字段。
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
方法二:使用model_alias别名机制
先在~/.fitten/config.yaml中定义:model_aliases: coding: qwen2.5-coder:7b reasoning: deepseek-r1:7b
然后请求时传"model": "coding"即可自动映射。别名能屏蔽底层模型变更,团队协作时可统一语义而非硬编码模型名。
注意:alias只在本地config文件中生效,【远程部署时若未同步该文件,alias将失效并返回500】。
按任务类型自动路由(推荐)
第一步:编辑~/.fitten/routing_rules.yaml,填入规则:
```yaml
rules:
- pattern: ".*debug.*|.*error.*|.*fix.*"
model: qwen2.5-coder:7b
- pattern: ".*architecture.*|.*design.*|.*system.*"
model: deepseek-r1:32b
- pattern: ".*translate.*|.*chinese.*|.*english.*"
model: qwen2.5:14b
```
第二步:重启Fitten服务使规则加载:fitten-cli service restart。
第三步:发起普通请求,不带任何model参数,Fitten会自动匹配第一条命中规则的pattern,并路由到对应模型。正则匹配区分大小写,中文关键词务必用UTF-8原样书写。
第四步:验证路由是否生效——发一条含“debug this loop”的消息,检查响应头中是否包含X-FIT-Routed-To: qwen2.5-coder:7b。

















