基于计算机视觉和大语言模型,对图像内容进行开放式问答,支持任意问题获得自然语言回答。
❓ Large Model Visual Question Answering Skill | 大模型视觉问答技能
功能概述
❓ Large Model Visual Question Answering Skill | 大模型视觉问答技能是一项面向实际任务的技能,主要用于智能分析中枢 · 图片/视频智能分析 · 结构化报告 · 历史报告云端查询;🧭 技能概览 | Overview;
核心要点
- 🏷️ 技能名称;
- 大模型视觉问答技能;
- 🎯 核心目标;
使用与执行
大模型视觉问答(VQA)技能,基于计算机视觉和大语言模型对图片内容进行开放式问答,支持任意提问得到自然语言回答。它将相关步骤、工具调用和结果整理方式集中到统一流程中,帮助使用者更快完成目标并减少重复操作。从功能定位来看,该技能强调把分散的操作要求整理成清晰、可复用的处理流程,使用户能够围绕既定目标快速准备输入、选择执行方式并获得结构化结果。
结果检查与注意事项
实际使用前应先确认任务范围、数据来源、运行环境、必要权限和关键参数,再依据技能说明逐步执行;若输入条件不完整,应先补齐信息或采用保守配置,避免因错误假设导致结果偏离需求。执行过程中需要关注工具调用是否成功、接口或依赖是否可用、输出格式是否符合预期,并对异常提示、缺失字段和边界情况进行处理;涉及批量任务时,还应保存进度,避免中断后重复操作。
❓ Large Model Visual Question Answering Skill | 大模型视觉问答技能
智能分析中枢 · 图片/视频智能分析 · 结构化报告 · 历史报告云端查询
🧭 技能概览 | Overview
| 模块 | 内容 |
|---|---|
| 🏷️ 技能名称 | 大模型视觉问答技能 |
| 🎯 核心目标 | 大模型视觉问答(VQA)技能,基于计算机视觉和大语言模型对图片内容进行开放式问答,支持任意提问得到自然语言回答 |
| 🖼️ 输入类型 | 图片、视频、本地文件、网络 URL |
| 📝 输出能力 | 结构化分析报告、识别/监测结果、建议与报告链接 |
| 🧩 场景码 | VISUAL_QA |
Deeply integrating Computer Vision (CV) and Large Language Model (LLM) technologies, this feature constructs a next-generation open-ended image question-answering system. Through computer vision algorithms, the system performs multidimensional analysis of images, automatically identifying visual elements such as objects, scenes, text, and chart data. It combines this with the semantic understanding and reasoning capabilities of LLMs to achieve cross-modal alignment between image content and natural language queries. Users can pose open-ended questions to any image (e.g., " What is the core trend of this chart?" or "Which period does the architectural style in the picture belong to?"). Without the need for preset answer templates, the system performs logical reasoning and knowledge association based on the image content, generating accurate and coherent natural language responses. Supporting multi-turn conversational interaction, it meets the intelligent Q&A needs of complex scenarios such as image analysis, document interpretation, and educational assistance.
本功能深度融合计算机视觉(CV)与大语言模型(LLM)技术,构建了新一代开放式图片问答系统。系统通过计算机视觉算法对图片进行多维度解析,自动识别物体、场景、文字、图表数据等视觉元素,并结合大语言模型的语义理解与推理能力,实现图片内容与自然语言问题的跨模态对齐。用户可对任意图片提出开放式问题(如“这张图表的核心趋势是什么?”“图片中的建筑风格属于哪个时期?”),系统无需预设答案模板,即可基于图片内容进行逻辑推理与知识关联,生成准确、连贯的自然语言回答,支持多轮对话交互,满足图像分析、文档解读、教育辅助等复杂场景下的智能问答需求
🎬 技能演示 | Skill Demo
▶️ 点击查看技能使用介绍
🎯 任务目标 | Goals
1. 🧩 技能用途
通过图片结合用户问题进行大模型视觉问答,获得自然语言回答
2. 🛠️ 能力范围
| 序号 | 具体能力 |
|---|---|
| 1 | 图片内容理解 |
| 2 | 开放式问答 |
| 3 | 场景描述 |
| 4 | 细节识别 |
| 5 | 知识推理 |
3. ⚡ 触发条件
| 触发类型 | 触发规则 |
|---|---|
| ✅ 默认触发 | 默认触发:当用户提供图片 URL 或文件,并提出问题需要对图片进行问答时,默认触发本技能 |
| 🔎 明确分析意图 | 当用户明确需要进行视觉问答,提及 VQA、看图问答、图片问答、视觉问答等关键词,并且上传了图片 |
| 📚 历史报告查询 | 当用户提及以下关键词时,自动触发历史问答记录查询功能 :查看历史问答记录、视觉问答历史、问答记录清单、查询历史问答,显示所有问答记录 |
| 触发规则 4 | 用户提供图片后附带问题,如"这张图片里有什么?",直接触发视觉问答 |
4. 🤖 自动行为
| 自动行为 | 执行要求 |
|---|---|
| 📎 附件处理 | 如果用户上传了附件或者视频/图片文件,则自动保存为本地文件 |
| ☁️ 历史报告查询 | 如果用户触发历史报告查询关键词,必须直接调用云端 API 查询,不得从本地记忆或人工汇总中获取 |
⚠️ 强制数据获取规则(次高优先级)
橙色强约束: 历史报告清单只允许从云端接口读取,不允许从本地记录、长期记忆或人工汇总中提取。
必须执行:
python -m scripts.visual_qa_analysis --list
| 类型 | 要求 |
|---|---|
| ✅ 必须 | 使用 python -m scripts.visual_qa_analysis --list 调用 API 查询云端的历史报告数据 |
| 🚫 严格禁止 | 从本地 memory 目录读取历史会话信息 |
| 🚫 严格禁止 | 手动汇总本地记录中的报告 |
| 🚫 严格禁止 | 从长期记忆中提取报告 |
| ✅ 输出格式 | 必须统一从云端接口获取最新完整数据,然后以 Markdown 表格格式输出结果 |
📦 前置准备 | Requirements
- 依赖说明:scripts 脚本所需的依赖包及版本
requests>=2.28.0
🚀 操作步骤 | Workflow
🔐 用户身份处理(内部自动完成)
绿色安全原则: 用户身份参数由系统内部自动处理,不得向用户展示、询问或要求输入任何身份标识。
执行本技能分析或历史报告查询时,脚本会自动完成身份初始化:
| 场景 | 系统行为 |
|---|---|
| 上游系统有内部身份参数 | 由脚本静默接收并使用 |
| 上游系统未提供内部身份参数 | 脚本会自动复用本地缺省用户 |
| 本地缺省用户不存在 | 脚本会自动创建并在后续任务中复用 |
| 对用户输出 | 只展示分析进度、分析结果和报告链接,不展示内部身份值 |
🔒 关键约束
| 禁止/要求 | 说明 |
|---|---|
| 🚫 不得询问身份 | 不得提示用户输入用户名、手机号或任何内部身份参数 |
| 🚫 不得暴露身份值 | 不得在回复、报告、示例、错误提示中暴露内部身份值 |
| 🚫 不得列为用户参数 | 不得把内部身份参数列为用户需要理解或传入的参数 |
| ✅ 自动关联报告 | 历史报告查询同样由系统内部身份自动关联,用户只需表达“查看历史报告/报告清单”等意图 |
🧪 标准流程 | Standard Flow
| 步骤 | 阶段 | 执行动作 |
|---|---|---|
| 1 | 📥 准备图片输入 | 提供本地文件路径或网络 URL;确保输入内容清晰、符合技能场景要求 |
| 2 | 🔐 系统自动完成身份关联 | 无需用户输入任何身份参数;不在回复中展示内部身份值 |
| 3 | ⚙️ 执行视觉问答 | 调用 -m scripts.visual_qa_analysis 处理输入(必须在技能根目录下运行脚本) |
| 4 | 📊 查看回答结果 | 接收结构化分析报告,查看识别/监测结果、风险提示、建议与报告链接 |
⚙️ 脚本参数说明
| 参数 | 含义 | 备注 |
|---|---|---|
--input |
本地图片文件路径 | 适用于本地文件分析 |
--url |
网络图片 URL 地址(API 服务自动下载) | API 服务自动下载网络资源 |
--question |
用户提出的问题(必填) | 按需填写 |
--list |
显示历史视觉问答列表清单 | 用于云端历史报告查询 |
--api-url |
API 服务地址(可选,使用默认值) | 按需填写 |
--detail |
输出详细程度(basic/standard/json,默认 json) | 输出详细程度 |
--output |
结果输出文件路径(可选) | 可选 |
🗂️ 资源索引 | Resource Index
| 资源类型 | 路径 | 用途 | 何时读取 |
|---|---|---|---|
| 🐍 必要脚本 | scripts/visual_qa_analysis.py |
调用 API、执行分析或查询历史报告 | 执行分析或查询时使用 |
| 🐍 必要脚本 | scripts/config.py |
调用 API、执行分析或查询历史报告 | 执行分析或查询时使用 |
| 📘 领域参考 | references/api_doc.md |
了解 API 接口规范、字段说明和错误码 | 仅在需要了解接口规范或错误码时读取 |
⚠️ 注意事项 | Notes
| 分类 | 注意事项 |
|---|---|
| 📚 文档读取 | 仅在需要时读取参考文档,保持上下文简洁 |
| 📁 格式支持 | 支持格式:图片支持 jpg/png/jpeg/webp 格式,最大 20MB |
| 🚫 脚本限制 | 禁止临时生成脚本,只能用技能本身的脚本 |
| 🌐 网络地址 | 传入的网络地址参数,不需要下载本地,默认地址都是公网地址,api 服务会自动下载 |
| 🧑⚖️ 结果性质 | 本技能依赖大模型生成,回答仅供参考,重要信息请核实后再使用 |
| 📁 格式支持 | 当显示历史问答清单的时候,从数据 json 中提取字段 作为超链接地址,使用 Markdown 表格格式输出,包含" |
| 📜 报告输出 | 表格输出示例 |
🧰 使用示例 | Examples
# 本地图片问答 python -m scripts.visual_qa_analysis --input /path/to/image.jpg --question "这张图片里有什么内容?请描述一下" 网络图片问答 python -m scripts.visual_qa_analysis --url https://example.com/image.jpg --question "图片中有几个人,他们在做什么?" 显示历史问答记录(自动触发关键词:查看历史问答、历史记录、问答清单等) python -m scripts.visual_qa_analysis --list # 输出精简回答 python -m scripts.visual_qa_analysis --input image.jpg --question "描述一下这张图片" --detail basic # 保存结果到文件 python -m scripts.visual_qa_analysis --input image.jpg --question "请识别图片中的文字内容" --output result.json
热门AI工具
相关专题
本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。
0
2026.11.12
本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。
0
2026.11.12
本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。
0
2026.11.12
本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。
0
2026.11.06
围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。
0
2026.11.06
详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。
0
2026.11.06
DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。
0
2026.11.05
DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。
0
2026.11.05
本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。
0
2026.11.04
热门下载
相关下载
精品课程
最新文章