需通过主动上报将WorkBuddy调用自定义模型的调用量作为自定义指标提交至腾讯云监控,支持服务端嵌入SDK、API网关日志提取、Prometheus+Exporter三种上报方式,并配置Dashboard可视化展示。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

一、在云监控控制台创建自定义指标监控项
WorkBuddy调用自定义模型的行为不会自动上报至腾讯云云监控,需通过主动上报方式将调用量作为自定义指标提交。该步骤的核心是为模型调用事件定义唯一命名空间与指标名称,并启用数据接收通道。
1、登录腾讯云云监控控制台,进入「自定义监控」>「指标管理」页面。
2、点击「新建命名空间」,填写命名空间名称为workbuddy/model_invoke,描述填写“WorkBuddy自定义模型调用量统计”,点击确认。
3、在刚创建的命名空间下,点击「新建指标」,指标名称设为InvokeCount,单位选择“次”,指标类型选“计数型”,聚合周期设为“1分钟”。
4、保存后,记录该指标对应的Namespace(即workbuddy/model_invoke)和MetricName(即InvokeCount),后续上报脚本需使用。
二、在WorkBuddy服务端嵌入指标上报逻辑
需在WorkBuddy每次成功调用自定义模型后,立即向腾讯云监控API发送一次计数上报请求。上报必须携带有效凭证与时间戳,且建议采用异步非阻塞方式避免影响主业务链路。
1、在WorkBuddy后端代码中(如Python Flask/FastAPI服务),安装腾讯云监控SDK:pip install tencentcloud-sdk-python-monitor。
2、初始化客户端,使用具备MonitorFullAccess或至少monitor:PutMetricData权限的SecretId/SecretKey。
3、在模型调用完成后的回调位置插入上报代码段,构造如下结构体:
4、调用PutMonitorData接口,传入包含Timestamp(精确到秒)、Dimensions(如{"ModelId":"m-abc123","Env":"prod"})、Value(固定为1)的指标点数组。
三、配置云监控Dashboard展示调用量图表
自定义指标上报生效后,需在Dashboard中添加对应图表组件,以可视化方式呈现每分钟/每小时调用量趋势及多模型对比分布。
1、进入云监控控制台「Dashboard」>「新建仪表盘」,命名为WorkBuddy模型调用监控。
2、点击「添加图表」,选择「指标图表」类型,数据源选择「云监控指标」。
3、在指标配置中,Namespace选择workbuddy/model_invoke,MetricName选择InvokeCount,统计周期选“SUM”,时间范围设为“最近6小时”。
4、在维度过滤中,勾选「按维度拆分」,选择Dimension Key为ModelId,以便自动绘制各模型调用量折线。
5、保存图表,再添加一个「TOP N」表格组件,同样绑定InvokeCount指标,排序方式设为「降序」,N值设为5,用于显示调用量最高的5个模型ID。
四、通过API网关日志反向提取并上报调用量
若无法修改WorkBuddy服务代码,可利用其部署所依赖的腾讯云API网关访问日志作为替代数据源。该方式无需侵入业务逻辑,但存在约5–10分钟延迟。
1、确保WorkBuddy的自定义模型调用接口已发布至腾讯云API网关,并开启访问日志功能,日志投递至CLS(云日志服务)指定日志主题。
2、在CLS控制台进入对应日志主题,创建「日志分析任务」,SQL查询语句示例:
SELECT path, COUNT(*) AS cnt FROM $logs WHERE path LIKE '/api/model/invoke%' AND status = 200 GROUP BY path
3、将分析结果通过CLS「导出到COS」或「触发SCF函数」方式处理,由SCF函数调用云监控PutMonitorData接口批量上报。
4、SCF函数中需对path字段解析出ModelId(如从URL路径提取/invoke/{model_id}),并映射为Dimensions字段中的ModelId键值对。
五、使用Prometheus+Exporter方案对接云监控
若WorkBuddy已部署于TKE集群并接入Prometheus监控体系,可通过自定义Exporter将Prometheus指标桥接到云监控,实现统一纳管。
1、编写轻量级Go/Python Exporter,监听WorkBuddy服务本地/metrics端点或读取其暴露的调用计数Gauge值。
2、Exporter内部将Prometheus指标转换为云监控格式,例如将workbuddy_model_invoke_total{model_id="m-xyz",env="prod"}映射为Namespace=workbuddy/model_invoke、MetricName=InvokeCount、Dimensions={"ModelId":"m-xyz","Env":"prod"}。
3、Exporter定时(如每30秒)聚合增量并调用云监控PutMonitorData接口,上报值为当前Gauge值而非Delta。
4、在云监控Dashboard中复用前述「InvokeCount」指标配置,无需变更图表设置,即可实时渲染来自Prometheus的数据流。


















