MiniCPM-V-2_6可在OpenClawAI中通过三种方式运行:一、Hugging Face+CLI Backend封装;二、vLLM+OpenAI兼容API桥接;三、自定义Python Backend注入模型实例。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望在 OpenClawAI 中运行轻量级、小参数量的多模态模型,MiniCPM 系列(如 MiniCPM-V-2_6)是常见选择之一,但其原生架构与 OpenClawAI 默认后端存在接口与协议差异。以下是实现兼容运行的多种可行方法:
一、通过 Hugging Face Transformers + CLI Backend 封装调用
该方法绕过 OpenClawAI 对标准 API 接口(如 OpenAI 兼容格式)的强依赖,将 MiniCPM-V-2_6 封装为本地可执行的 CLI 工具,由 OpenClawAI 的 CLI Backend 机制调度启动并解析输出。
1、克隆 MiniCPM-V 官方仓库:git clone https://github.com/OpenBMB/MiniCPM.git,进入 mini_cpm_v_2_6 目录。
2、安装指定依赖:pip install torch==2.3.0 torchvision==0.18.0 transformers==4.41.2 accelerate==0.30.1 Pillow==10.3.0,确保与 MiniCPM-V-2_6 的 requirements.txt 版本一致。
3、编写封装脚本 minicpm_cli.py,接收 --image 和 --prompt 参数,调用 model.chat() 后以 JSON 格式输出 response 字段。
4、赋予执行权限并测试:chmod +x minicpm_cli.py && python minicpm_cli.py --image test.jpg --prompt "描述这张图",确认返回纯文本响应无报错。
5、在 OpenClawAI 配置中启用 CLI Backend:于 config.yaml 设置 backend: cli,并指定 command: ["python", "minicpm_cli.py"] 及对应参数映射规则。
二、使用 vLLM + OpenAI 兼容 API 桥接层
该方法借助 vLLM 的高吞吐推理能力与 OpenAI 兼容服务接口,使 MiniCPM-V-2_6 在逻辑上“伪装”为标准 LLM+Vision 模型,供 OpenClawAI 以常规 openai-provider 方式调用。
1、将 MiniCPM-V-2_6 转换为 vLLM 支持格式:使用 llava-onevision 分支中的 convert_hf_to_vllm.py 工具,输入路径指向已下载的 HF 格式权重目录。
2、启动 vLLM OpenAI 兼容服务器:vllm serve --model /path/to/minicpm-v-2_6 --dtype bfloat16 --tensor-parallel-size 1 --enable-chunked-prefill --max-num-batched-tokens 8192 --port 8000。
通过IB Gateway Docker将OpenClaw连接至Interactive Brokers,获取实时投资组合数据、实时行情、历史K线、技术分析以及Telegram等功能...
3、验证 API 可达性:curl http://localhost:8000/v1/models,响应中应包含 model_id 为 minicpm-v-2_6 的条目。
4、配置 OpenClawAI 使用 OpenAI provider:openclaw config set models.providers.openai.baseUrl "http://localhost:8000/v1"。
5、设置默认模型标识:openclaw config set models.default "minicpm-v-2_6",注意该名称须与 vLLM 返回的 model.id 完全一致。
三、通过自定义 Python Backend 注入模型实例
该方法适用于开发者环境,直接在 OpenClawAI 运行时注入 MiniCPM-V-2_6 的 Python 实例,跳过序列化/网络通信开销,实现最低延迟调用,需修改 OpenClawAI 的 backend 初始化逻辑。
1、在 OpenClawAI 项目根目录创建 backends/minicpm_backend.py,继承 BaseBackend 类,重写 invoke 方法。
2、在 invoke 中加载 MiniCPM-V-2_6 模型:model = MiniCPMV2_6.from_pretrained("openbmb/MiniCPM-V-2_6", trust_remote_code=True).to(device)。
3、处理传入的 multimodal_input:解析 image_path 与 text_prompt,调用 model.chat(image, prompt, system_prompt="") 获取响应。
4、将返回字符串封装为 OpenClawAI 所需的 Message 对象,确保 role 字段为 assistant、content 为纯文本结果。
5、在 config.yaml 中声明 backend:backend: minicpm_backend,并禁用自动 provider 发现:disable_auto_provider: true。

















