讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

Seko
Seko

AI短剧一键生成成片

Laper
Laper

剧本策划到成片协作

AniShort
AniShort

AI短剧协同制作平台

Dify对接MiniCPM多模态模型实现端侧视觉问答

星墨大大_9835

星墨大大_9835

发布时间:2026-11-13 09:51:37

|

108人浏览过

|

来源于php中文网

原创

MiniCPM-V端侧模型需通过HTTP API桥接层暴露服务,Dify仅作调度中枢;需确认服务已启动,执行curl http://localhost:8000/health返回{"status":"healthy"}。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

dify对接minicpm多模态模型实现端侧视觉问答

确认MiniCPM-V端侧模型已就绪

要在Dify中调用MiniCPM-V实现端侧视觉问答,必须先确保模型本身已在本地或边缘设备上可被稳定调用——Dify不托管模型,只作调度中枢。你不能直接把手机上的MiniCPM-V-4.7-1B-int4二进制文件丢进Dify后台,而需通过HTTP API桥接层暴露其服务能力。

检查你的MiniCPM-V服务是否已启动:运行curl http://localhost:8000/health,返回{"status":"healthy"}且响应时间

【必须满足】该服务接口需支持标准OpenAI兼容格式的/v1/chat/completions请求,并在request body中接受messages[].content字段内嵌image_url或image_data结构——这是Dify多模态路由的唯一识别依据。

配置Dify后端为多模态转发模式

进入Dify管理后台 → 设置 → 系统设置 → 高级配置,将MULTIMODAL_ENABLED设为True,并确认MULTIMODAL_SUPPORTED_TYPES包含"image/jpeg"、"image/png"、"image/webp"三项。缺一不可,否则前端上传按钮会灰显,且API层静默剥离图像字段。

打开config.py,在LLM_PROVIDER区块下新增MiniCPM-V专用配置段:

MINICPM_V_PROVIDER = {
  "api_base": "http://localhost:8000/v1",
  "api_key": "dummy-key",
  "model_name": "minicpm-v-4.7-1b"
}

注意:此处api_key填任意非空字符串即可,因端侧服务通常不鉴权;但model_name必须与你实际部署的模型标识完全一致,否则Dify在构造请求头时会传错model参数导致404。

在应用中绑定并验证MiniCPM-V模型

创建新应用 → 选择「聊天助手」类型 → 进入「模型配置」页 → 模型供应商选「自定义」→ 在「模型名称」输入框填入minicpm-v-4.7-1b → 保存。

点击右侧「测试模型」按钮,手动构造一条含图请求:

Dify
Dify

Dify AI应用开发平台指南。用于构建LLM应用、工作流、Agent和知识库。当用户需要(1)使用Dify创建AI应用 (2)设计LLM工作流 (3)配置知识库RAG (4)开发AI Agent (5)调用Dify API (6)自托管部署Dify时激活此技能。

下载

① 在文本框中输入:请描述这张图中的场景和主要物体

② 点击上传图标,选择一张本地test.jpg(尺寸建议≤1024×768,过大将触发端侧预处理超时)

③ 点击发送,观察响应体是否含choices[0].message.content字段且内容为中文自然语言描述;若返回{"error":"vision not supported"},说明MiniCPM-V服务未启用视觉插件或Dify未正确注入multipart/form-data头。

这一步失败时,立刻检查localhost:8000服务日志中是否有"vision encoder loaded"字样——没有则需重跑python serve.py --enable-vision启动命令。

前端界面启用文件上传与提示词适配

发布应用前,必须开启「文件上传」功能开关,位置在应用发布页 → 功能设置 → 文件上传 → 启用。

进入「提示词编排」区域,在system prompt中插入明确声明:你是一个部署在端侧的多模态视觉语言模型,具备图像理解能力。用户可能上传JPG/PNG/WebP格式图片,请结合图像内容与文字指令生成准确、简洁的回答。禁止回答“我无法查看图片”或类似拒绝语。

这句话不是礼貌性补充,而是Dify运行时判断是否向后端注入vision token的关键触发器。漏掉它,即使后端服务正常,请求也会被降级为纯文本流。

完成配置后,点击「发布」按钮,前端聊天窗口即出现文件上传图标。点击上传一张含清晰文字或物体的图片,输入问题,等待端侧模型返回结果。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Dify 本地部署与企业配置
Dify 本地部署与企业配置

本专题系统讲解 Dify 从零开始的本地部署方法与企业环境配置实践,涵盖 Docker 安装、依赖准备、数据库初始化、反向代理、参数调优、安全加固与多用户开通,帮助开发者与企业团队快速搭建稳定可用的 Dify 平台。

1057

2026.06.05

Dify Agent智能体开发实战教程
Dify Agent智能体开发实战教程

本专题聚焦 Dify Agent 智能体的设计与开发,涵盖 Agent 模式选择、工具集成、提示词设计、多步推理、上下文记忆与多 Agent 协作,帮助开发者构建可执行复杂业务任务的智能体应用。

285

2026.06.05

Dify RAG知识库构建实战教程
Dify RAG知识库构建实战教程

本专题围绕 Dify RAG 知识库的全流程实践展开,从文档导入、分段切片、向量化到混合检索、重排优化与召回评估,帮助你打造高准确率、低幻觉的企业知识问答应用。

276

2026.06.05

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

0

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

0

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

0

2026.11.12

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

120

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

80

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

80

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Dify零基础教程
Dify零基础教程

共0课时 | 160人学习

学习Agent,从Dify开始
学习Agent,从Dify开始

共0课时 | 162人学习

Dify 部署与运维指南
Dify 部署与运维指南

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn