WorkBuddy需启用llava/qwen-vl/florence等多模态模型才能处理图文混合内容,启用后支持拖拽组合上传或分步嵌入,并需在指令中明确模态标识、避免模糊指代,必要时指定模型。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

你需要用WorkBuddy处理包含文字、图片、表格甚至PPT的混合内容,比如把一份带截图的会议纪要PDF和几张产品原型图一起分析,生成带图解的汇报摘要——这种跨模态信息整合不能靠单一文本模型完成,必须激活并正确调用多模态能力。
确认多模态模型已启用
进入WorkBuddy左下角「设置」→「模型配置」→ 找到名称含 【llava】、【qwen-vl】或【florence】 的模型条目,点击右侧「启用」按钮。未启用时所有图片上传将被静默忽略,且不报错。
启用后等待状态栏显示“已加载”,再刷新对话窗口。若仍无反应,检查服务日志中是否有 "vision_tower loaded success" 字样——没有则说明视觉编码器未成功载入GPU显存。
上传多模态素材的正确方式
方法一:直接拖拽组合上传
把PDF、Word、PNG三类文件同时拖进对话框,WorkBuddy会自动识别格式并提取文本+OCR文字+图像特征,无需手动拆分。
方法二:分步嵌入上下文
先发送文字描述:“这是Q3销售数据报告”,再点击输入框旁的「+」→「上传文件」→ 选择Excel;紧接着再点「+」→「上传图片」→ 选对应柱状图截图。系统会把这两份材料自动对齐时间维度做交叉分析。
启用该技能,可以在WorkBuddy对话页的右边栏添加一个日历,提供月历视图、日程增删改查、分类标签(开庭/会议/截止日期/个人/研究/其他),支持从对话中提取事件并自动同步到日历。当用户提到"日历""日程""打开日历""添加日程""我的日程""calendar""安排"或询问已记录的日程信息时使用。
【注意】上传顺序会影响理解逻辑:先文字后图片,WorkBuddy按语义锚定图像位置;先图片后文字,则默认图片是主参考对象。
触发多模态理解任务
第一步:明确指令中包含模态标识词
例如说“看这张截图里的UI布局,再结合我刚传的PRD文档,指出三个交互矛盾点”——“看这张截图”激活图像理解,“PRD文档”触发文本解析,“交互矛盾点”定义输出结构。
第二步:避免模糊指代
错误示例:“它上面写的参数对不对?” → WorkBuddy无法判断“它”指哪张图或哪段文字。
正确写法:“对比截图1中设备型号标注和文档第5页表格第三列,确认型号是否一致”。
第三步:必要时指定模型
在对话开头加一句:“请用qwen-vl模型处理本次多模态请求”,可绕过Auto模式的自动调度,确保视觉编码器参与运算。

















