ChatGPT-Next-Web无法连接本地DeepSeek V4,主因是前端配置与后端服务地址/路径不匹配:一、Ollama需设接口为http://127.0.0.1:11434、模型名一致且OLLAMA_ORIGINS=*;二、llama.cpp server填http://127.0.0.1:8080/v1并留空API密钥;三、FastAPI服务须确保路由为/chat/completions、启用CORS;四、Nginx反代可绕过CORS;五、须用curl验证接口返回含choices[0].message.content。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您已成功在本地运行 DeepSeek V4 模型服务(例如通过 Ollama 或自建 FastAPI/llama.cpp 后端),但 ChatGPT-Next-Web 前端无法连接或提示“failed to fetch”,则问题通常出在前端配置与本地服务端地址不匹配。以下是针对 DeepSeek V4 本地部署场景的多种前端地址配置方法:
一、使用 Ollama 本地服务(标准端口 11434)
当 DeepSeek V4 模型通过 ollama run deepseek-v4:xxx 启动后,Ollama 默认以 HTTP REST API 形式暴露服务,基础地址为 http://127.0.0.1:11434。ChatGPT-Next-Web 需按 OpenAI 兼容协议对接该端点。
1、打开 ChatGPT-Next-Web 设置页面,进入「基础设置」;
2、将「服务商」选项设为 OpenAI;
立即学习“前端免费学习笔记(深入)”;
3、在「接口地址」字段中填入:http://127.0.0.1:11434;
4、在「自定义模型名」和「模型」两项中均填写:deepseek-v4:7b(请根据实际拉取的标签替换,如 deepseek-v4:14b 或 deepseek-v4:32b);
5、确保环境变量 OLLAMA_ORIGINS 已设为 *,且 Ollama 服务已重启生效。
二、使用自建 llama.cpp + server(自定义端口)
若您采用 llama.cpp 的 server 模式运行 DeepSeek V4(如通过 ./server -m ./models/deepseek-v4.Q5_K_M.gguf -c 4096 -ngl 99),其默认监听地址为 http://127.0.0.1:8080,且兼容 OpenAI `/v1/chat/completions` 路径。
1、确认 server 进程正在运行,并可通过浏览器访问 http://127.0.0.1:8080/health 返回 JSON 健康状态;
2、在 ChatGPT-Next-Web 设置中,「服务商」仍选 OpenAI;
3、「接口地址」填入:http://127.0.0.1:8080/v1(注意末尾 /v1 不可省略);
4、「模型」字段必须与 server 启动时加载的模型文件名一致,例如:deepseek-v4.Q5_K_M.gguf;
5、禁用「API 密钥」输入框(留空),因本地 server 默认无需鉴权。
三、使用 FastAPI 封装的 DeepSeek V4 接口(含 /chat/completions 路由)
部分用户基于 Transformers + FastAPI 构建了专用推理服务,其路径结构可能与 OpenAI 完全对齐,但基础 URL 和模型标识需严格匹配代码定义。
1、检查您的 FastAPI 服务文档(如 http://127.0.0.1:8000/docs),确认存在 POST /chat/completions 端点;
2、在 ChatGPT-Next-Web 中,「接口地址」应填写至根路径,例如:http://127.0.0.1:8000(不含 /v1 或 /api);
3、「模型」字段须与 FastAPI 代码中 model_name 参数值完全一致,如:deepseek-v4-hf;
4、若服务启用 CORS 限制,请在 FastAPI 启动时添加中间件:app.add_middleware(CORSMiddleware, allow_origins=["*"], allow_methods=["*"]);
5、避免在「API 密钥」栏填写任何内容,除非您的 FastAPI 显式校验 Authorization: Bearer xxx 头。
四、绕过跨域限制:反向代理配置(Nginx)
当直接访问本地服务触发浏览器 CORS 错误(如 “No 'Access-Control-Allow-Origin' header”),可在本机部署 Nginx 作为代理层,统一暴露为同源请求。
1、创建 Nginx 配置片段(如 /usr/local/etc/nginx/servers/deepseek.conf):
2、在 location / 块中添加:proxy_pass http://127.0.0.1:11434/;;
3、强制添加响应头:add_header 'Access-Control-Allow-Origin' '*';;
4、重载 Nginx:sudo nginx -s reload;
5、将 ChatGPT-Next-Web 的「接口地址」改为:http://127.0.0.1:8888(即 Nginx 监听端口)。
五、验证本地服务可达性与路径兼容性
ChatGPT-Next-Web 依赖标准 OpenAI v1 接口结构,若服务返回 404 或格式错误,需确认后端是否完整实现 /chat/completions 及必要字段(如 choices[0].message.content)。
1、在终端执行测试命令:curl -X POST http://127.0.0.1:11434/api/chat -H "Content-Type: application/json" -d '{"model":"deepseek-v4:7b","messages":[{"role":"user","content":"Hello"}]}';
2、观察响应是否含 message.content 字段及非空字符串;
3、若返回 404,说明服务未挂载到 /api/chat,需调整为 /v1/chat/completions 路径或修改前端适配逻辑;
4、若返回 500 或空 content,请检查模型是否加载完成、显存是否溢出、context length 是否超限。



















