使用 browser_vision 截图、terminal 调用 ffmpeg 录屏、browser_snapshot 获取结构化快照、vision 工具集进行 OCR 分析,可分别实现单帧捕获、连续录制、语义布局还原与图像内容提取。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您在使用 Hermes Agent 执行网页任务时需要保存当前页面的视觉状态或记录操作过程,则可能因未正确调用浏览器视觉工具或未配置录屏环境而导致失败。以下是解决此问题的步骤:
一、使用 browser_vision 工具截图
browser_vision 是 Hermes Agent 内置的浏览器视觉分析工具,可直接触发当前活动标签页的截图操作,并将结果保存至本地缓存路径。该工具不依赖外部录屏软件,适用于单帧静态画面捕获。
1、在 CLI 中输入自然语言指令,例如:“对当前百度聊天页面截图”。
2、Agent 自动调用 browser_vision 工具,参数默认为 full=false,生成紧凑视图快照。
3、截图文件将保存至路径:/home/.hermes/cache/screenshots/,文件名含时间戳(如 screenshot_20260419_235512.png)。
4、如需将截图复制到桌面,可紧接着输入:“把最新截图复制到桌面,命名为对话截图.png”,Agent 将调用 execute_code 工具执行文件系统操作。
二、通过 terminal 工具调用系统录屏命令
当需要录制连续操作过程而非单张截图时,可利用 terminal 工具在本地环境执行系统级录屏命令。该方法要求目标系统已安装 ffmpeg 或类似多媒体工具,且具备屏幕捕获权限。
1、确认 ffmpeg 是否可用,输入:“检查 ffmpeg 是否已安装”,Agent 将运行 which ffmpeg 并返回路径。
2、若已安装,执行录屏指令:“用 ffmpeg 录制当前屏幕 30 秒,保存为 ~/Desktop/操作录像.mp4”。
3、Agent 自动生成并运行命令:ffmpeg -f x11grab -i :0.0 -t 30 -vf scale=1280:720 ~/Desktop/操作录像.mp4(Linux X11 环境)。
4、录制结束后,文件将直接出现在用户桌面,无需额外移动操作。
三、结合 browser_snapshot 获取结构化页面快照
browser_snapshot 工具虽不生成图像,但能导出页面可访问性树(Accessibility Tree)的文本快照,可用于还原关键界面元素布局,作为截图的语义补充。该方式适用于无障碍验证或调试元素定位失败场景。
1、输入指令:“获取当前页面的结构化快照”。
2、Agent 调用 browser_snapshot,参数自动设为 full=true,返回完整 DOM 结构与交互节点引用 ID(如 @e18)。
3、快照内容将显示在终端中,包含所有按钮、输入框、链接及其状态属性(enabled、focused、visible 等)。
4、如需保存该快照,可追加指令:“把这段快照保存为 page_struct.txt 到桌面”,Agent 将调用 file 工具写入文件。
四、启用 vision 工具集进行图像分析后二次处理
vision 工具集支持对已生成截图进行 OCR、对象识别或内容摘要,适用于需从截图中提取文字或判断界面状态的进阶场景。该方法必须在截图已存在前提下启动。
1、确保截图已生成并位于 /home/.hermes/cache/screenshots/ 目录下。
2、输入指令:“分析最新截图中的所有可见文字”。
3、Agent 自动启用 vision 工具集,调用 OCR 模块解析图像,返回纯文本结果。
4、分析结果将直接输出在终端中,若需导出,可继续输入:“把识别出的文字保存为 ocr_result.txt 到桌面”。


















