要在Qoder中启用本地大模型,需绕过云端API,将请求直连本机兼容OpenAI格式的服务(如Ollama、vLLM或FastAPI封装的DeepSeek),并严格匹配端点路径与配置;支持CLI临时指定、全局config.yaml配置或MCP插件三种方式。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

要在Qoder中启用本地大模型而非调用云端API,必须绕过默认的在线模型路由,将推理请求直接导向你本机已加载的服务端点。这要求你提前在本地运行一个兼容OpenAI格式的LLM服务(如Ollama、vLLM或FastAPI封装的DeepSeek),且Qoder能识别该服务的协议与路径。
确认本地模型服务已就绪
先验证你的本地模型是否真正可被调用,而不是仅“安装了”或“下载了”。Qoder不会自动启动Ollama或vLLM,它只负责发请求。
执行 curl http://127.0.0.1:11434/api/tags → 返回包含 model 字段的JSON,说明Ollama正在运行;若返回 connection refused 或 timeout,请先运行 ollama serve。
如果你用的是vLLM,检查是否监听在 http://127.0.0.1:8000/v1/chat/completions;如果是FastAPI封装的DeepSeek-R1,端点应为 http://localhost:8000/v1。端口和路径必须与后续配置严格一致,【Qoder不支持自动发现或端口探测】。
方法一:CLI启动时临时指定本地Ollama服务
适合快速验证、多模型切换或CI/CD流程中避免污染全局配置。
第一步:确保模型已在Ollama中可用,例如执行 ollama list → 输出含 qwen2.5-coder:14b 的行。
第二步:在项目根目录下运行命令:qoderclicn --ollama http://127.0.0.1:11434/v1 --model qwen2.5-coder:14b。
注意:--ollama 参数值必须以 /v1 结尾,否则Qoder会拼接错误路径导致404;--model 名称必须与 ollama list 中显示的完全一致,包括大小写和冒号。
方法二:修改全局配置文件强制走本地通道
此操作将永久覆盖所有Qoder Agent模式(Quest/TUI/Memory)的LLM行为,适用于长期本地开发环境。
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
打开 ~/.qoder/config.yaml(Windows路径为 %USERPROFILE%\.qoder\config.yaml)。
在文件末尾添加以下区块,注意缩进必须为两个空格,不可用Tab:
llm:
base_url: "http://127.0.0.1:11434/v1"
api_key: "sk-ollama"
model: "qwen2.5-coder:14b"
保存后关闭所有Qoder进程,重新启动CLI或编辑器界面。Qoder启动时会读取该配置并跳过云端鉴权环节。
方法三:通过MCP协议注入自定义LLM插件(高级)
当你需要对接非标准API(如带JWT校验的私有网关)、自定义响应结构或绕过Qoder内置Ollama适配器限制时使用。
在项目根目录创建 ./mcp-providers/local-ollama/ 目录。
新建 provider.py,内容需实现 mcp.server.ServerProvider 接口,其中 call() 方法必须将 Qoder 的 MCP 请求转换为对 http://127.0.0.1:11434/api/chat 的 POST 调用,并将 response.message.content 映射回 mcp.Result。
启动Qoder时加参数 --mcp-provider ./mcp-providers/local-ollama,Qoder将动态加载该插件并注册为可用LLM源。

















