必须通过适配层将混元API转换为OpenAI兼容格式才能在Open WebUI中稳定调用,直接填入混元地址会返回404或空响应;需部署代理层(如llama-server或FastAPI轻量代理),并正确配置host.docker.internal、端口及模型映射。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

要在Open WebUI中接入腾讯混元大模型,必须绕过其原生不支持混元API格式的限制,通过适配层将混元的请求/响应结构转换为OpenAI兼容格式——这是唯一能稳定调用混元的路径,直接填入混元API地址会返回404或空响应。
确认混元API服务已就绪
打开浏览器访问 http://localhost:8000/docs(若混元OCR或混元翻译等WebUI服务运行在本地默认端口),看到Swagger文档页面即表示API服务已启动。注意:混元各产品线(如HY-MT1.5、Hunyuan-OCR-WEBUI)默认监听端口不同,不是所有混元服务都默认开放8000端口,需根据你实际部署的服务确认端口(例如混元翻译HY-MT1.5常用8080,混元OCR常用8000)。
若页面打不开,回到终端检查服务进程是否存活,重点确认是否启用了--api参数或对应API脚本(如2-API接口-pt.sh)。
部署OpenAI兼容代理层
方法一:使用官方推荐的llama.cpp + openai-compatible-server桥接(适用于混元文本模型)
第一步:从GitHub下载已编译好的llama-server(支持混元Qwen系列权重的版本),解压后进入目录。
第二步:执行命令加载混元模型并启用OpenAI兼容API:
./llama-server -m ./models/hunyuan-7b.Q4_K_M.gguf --host 0.0.0.0 --port 8081 --ctx-size 4096 --parallel 4 --no-mmap
这一步必须指定--host 0.0.0.0,否则Open WebUI容器内无法访问宿主机服务;若省略此参数,默认只监听127.0.0.1,导致连接被拒绝。
方法二:用Python轻量代理(适用于混元OCR、混元翻译等已有HTTP API的服务)
商业LOGO设计技能:依据用户描述,使用阿里云百炼千问图像模型(qwen‑image‑2.0‑pro)生成专业商业LOGO图片。适用场景:设计公司/品牌LOGO、生成商业标识图标、创建品牌视觉符号、按描述生成logo图片。支持自定义尺寸、风格、负面提示词等。
新建proxy.py,写入以下内容:
from fastapi import FastAPI, Request, Responseimport httpxapp = FastAPI()@app.post("/v1/chat/completions")async def proxy_chat(request: Request): body = await request.json() # 将OpenAI格式body转为混元所需格式(如把messages转为prompt+system) hy_body = {"prompt": body["messages"][-1]["content"], "system": "你是一个专业助手"} async with httpx.AsyncClient() as client: resp = await client.post("http://localhost:8000/v1/chat", json=hy_body) return Response(content=resp.content, status_code=resp.status_code, headers=dict(resp.headers))
运行uvicorn proxy:app --host 0.0.0.0 --port 8082,该代理将把Open WebUI发来的/v1/chat/completions请求,转发给混元真实API并做字段映射。
配置Open WebUI连接混元代理
启动Open WebUI时,通过环境变量注入代理地址:
docker run -d -p 3000:8080 --name openwebui -e OLLAMA_BASE_URL=http://host.docker.internal:8081 -v openwebui:/app/backend/data --restart always ghcr.io/open-webui/open-webui:main
关键点:Windows下必须用host.docker.internal而非localhost,否则容器无法解析宿主机服务;Mac/Linux用户可改用docker.for.mac.host.internal或host.docker.internal(取决于Docker Desktop版本)。
进入Open WebUI网页界面(http://localhost:3000),点击左下角「设置」→「模型」→「添加模型」,填写:
模型名称:hunyuan-7b
基础URL:http://localhost:8081(若代理运行在宿主机)
API密钥:留空(混元原生API通常无需密钥)
保存后,在聊天界面左上角模型选择器中应出现hunyuan-7b,选中即可开始对话。

















