讲师中心 微信公众号
AI工具推荐 视频效率加速

如何在 WorkBuddy 中批量测试不同模型的响应速度?

大磊酱_3306

大磊酱_3306

发布时间:2026-04-12 16:50:40

|

603人浏览过

|

来源于php中文网

原创

可通过标准化指令与隔离环境实现WorkBuddy中多AI模型响应速度的可复现批量测量:统一输入文档与提示词、关闭非必要插件、用CLI轮询调用模型、启用DEBUG日志提取性能字段,并通过小程序沙箱并行验证。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如何在 workbuddy 中批量测试不同模型的响应速度?

如果您需要在 WorkBuddy 中对比多个 AI 模型的实际响应表现,但手动逐个切换测试耗时低效,则可通过标准化指令与隔离环境实现可复现的批量响应速度测量。以下是执行该测试的具体步骤:

一、准备统一测试指令与文档样本

为确保测试结果具备横向可比性,必须固定输入内容、上下文长度与任务类型,排除因提示词差异或文件解析波动导致的干扰。所有模型均使用同一套输入进行触发。

1、新建一个纯文本文件,命名为speed_test_prompt.txt,内容为:“请用不超过80字概括以下会议纪要的核心结论,并列出3个待办事项,每项以‘●’开头。”

2、另准备一份标准测试文档:test_meeting_minutes.pdf(共4页,含2处表格、1段加粗标题、无图片),存放于桌面固定路径,如~/Desktop/test_data/。

3、关闭所有非必要 Skills 插件与后台集成通道,仅保留「PDF文字提取」与「文本摘要」两个基础技能,避免插件调度引入额外延迟。

二、配置模型轮询执行环境

WorkBuddy 支持通过命令行参数或配置文件驱动模型切换,无需反复点击界面,可规避 GUI 渲染开销,使测得时间更贴近真实推理耗时。

1、打开终端(macOS/Linux)或 PowerShell(Windows),进入 WorkBuddy 安装目录下的 bin/ 子目录。

2、依次执行以下四条命令(每条命令间隔 15 秒,确保前序进程完全释放内存):

./workbuddy-cli --model hunyuan-local-tiny --input ~/Desktop/test_data/test_meeting_minutes.pdf --prompt-file ~/Desktop/test_data/speed_test_prompt.txt --output /dev/null

./workbuddy-cli --model glm-4-flash --input ~/Desktop/test_data/test_meeting_minutes.pdf --prompt-file ~/Desktop/test_data/speed_test_prompt.txt --output /dev/null

./workbuddy-cli --model deepseek-v3.2 --input ~/Desktop/test_data/test_meeting_minutes.pdf --prompt-file ~/Desktop/test_data/speed_test_prompt.txt --output /dev/null

One API key for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more
One API key for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more

统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。

下载

./workbuddy-cli --model kimi-k2.5 --input ~/Desktop/test_data/test_meeting_minutes.pdf --prompt-file ~/Desktop/test_data/speed_test_prompt.txt --output /dev/null

三、启用内置性能日志捕获

WorkBuddy 在 CLI 模式下会自动记录各阶段耗时(模型加载、文档解析、推理、格式化输出),启用详细日志可导出结构化时间戳数据,用于精确比对。

1、在执行任一上述命令前,先运行:export WORKBUDDY_LOG_LEVEL=DEBUG

2、每条命令后,立即执行:tail -n 20 ~/.workbuddy/logs/perf_$(date +%Y%m%d).log

3、从输出中提取形如 [PERF] model_inference_ms=4278、[PERF] total_response_ms=6132 的字段,记录至本地 CSV 表格。

四、使用沙箱模式并行验证

为排除本地硬件资源争抢影响,可在微信小程序端启动云端沙箱实例,同步发起多模型请求,利用腾讯云分布式节点实现真正并行压测。

1、微信内搜索「WorkBuddy」小程序,登录同一账号,进入「开发者工具」→「沙箱压力测试」。

2、上传同一份 test_meeting_minutes.pdf,在「模型并发组」中勾选 Hunyuan-Local-Tiny、GLM-4-Flash、DeepSeek-V3.2 三项。

3、设置并发数为 1,单次请求超时阈值设为 12000ms,点击「开始批量测试」。

4、等待结果页生成三列独立耗时曲线图,直接截图保存,图中每条线段终点数值即为该模型在云端环境下的实测响应毫秒值。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
WorkBuddy AI教程合集
WorkBuddy AI教程合集

本专题整合了WorkBuddy AI入门到精通合集,阅读专题下面的文章了解更多详细内容。

1787

2026.04.03

WorkBuddy产品概览与核心价值
WorkBuddy产品概览与核心价值

本专题将带您快速了解WorkBuddy智能办公助手。内容涵盖产品定义、核心功能概览、适用场景分析以及它如何提升团队效率。无论您是初次接触还是希望深入了解,这里都有您需要的入门知识。

643

2026.04.09

WorkBuddy环境搭建与部署指南
WorkBuddy环境搭建与部署指南

提供详尽的WorkBuddy安装与部署指南。无论您是在Windows、Mac、Linux桌面端,还是在服务器或云端环境进行私有化部署,本专题都将一步步指导您完成环境准备、软件下载、安装配置及首次启动,确保系统平稳上线。

956

2026.04.09

WorkBuddy核心功能与实操模式
WorkBuddy核心功能与实操模式

深入探索WorkBuddy的强大功能。本专题包含智能问答、文档处理、会议纪要生成、日程管理、任务协作等核心模块的操作指南与最佳实践。通过图文并茂的教程,助您快速上手,最大化发挥WorkBuddy的办公效能。

622

2026.04.09

WorkBuddy生态集成与API配置
WorkBuddy生态集成与API配置

指导管理员如何将WorkBuddy无缝接入现有办公生态。内容涉及企业微信、钉钉、飞书等主流平台的集成步骤,以及Webhook、API密钥配置、单点登录(SSO)设置等高级接入选项,实现统一入口,提升协作体验。

955

2026.04.09

WorkBuddy模型矩阵与技能扩展
WorkBuddy模型矩阵与技能扩展

揭秘WorkBuddy背后的智能引擎。本专题介绍所支持的大语言模型(LLM)类型、如何根据需求切换或配置模型,以及如何通过自定义指令、技能插件(Plugins)扩展WorkBuddy的能力边界,打造专属的智能办公伙伴。

1072

2026.04.09

WorkBuddy安全架构与计费体系
WorkBuddy安全架构与计费体系

透明化WorkBuddy的计费模式与安全保障体系。清晰列出不同版本(免费版、专业版、企业版)的费用结构、功能差异与订阅方式;同时深入解读数据加密、访问控制、合规认证(如GDPR、ISO)等企业级安全特性,让您用得放心。

244

2026.04.09

WorkBuddy协作工具使用与项目管理优化实践
WorkBuddy协作工具使用与项目管理优化实践

本专题聚焦 WorkBuddy 协作工具在企业项目管理中的应用,讲解任务分配、进度跟踪、团队协作、日程管理及报告生成技巧。通过实践案例,帮助团队提升工作效率、优化沟通流程,实现高效协作与项目执行。

373

2026.05.06

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

20

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn