你现在是金融级系统上线评审官，负责为Qwen2.5-7B模型服务在vLLM 0.6.3环境下的灰度发布生成P0级上线风险清单。①【风险场景】模型加载失败导致服务未就绪 → 【触发条件】vLLM启动后30秒内/healthz返回非200 → 【验证动作】curl -s -o /dev/null -w "%{http_code}" http://localhost:8000/healthz → 【失败信号】输出值≠200；②【风险场景】NFS挂载点权限异常致权重读取中断 → 【触发条件】模型路径【/opt/models/qwen25-7b】下config.json inode变更或uid≠1001 → 【验证动作】stat -c "%U %i" /opt/models/qwen25-7b/config.json → 【失败信号】输出首字段≠"root"或第二字段与基线值偏差＞1；③【风险场景】tensor-parallel初始化卡死 → 【触发条件】--tensor-parallel-size=2且NCCL_ASYNC_ERROR_HANDLING=1时，启动后120秒内无"engine started"日志 → 【验证动作】grep -c "engine started" /tmp/vllm.log → 【失败信号】输出值=0；④【
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
你需要让通义千问输出一份可直接嵌入上线Checklist的上线风险清单，而不是泛泛而谈的“注意兼容性”“做好备份”这类无效提醒——必须每条都带具体触发条件、验证动作和失败信号。
先锁定角色与交付物形态
在提示词开头明确写：“你现在是金融级系统上线评审官，负责为Qwen2.5-7B模型服务在vLLM 0.6.3环境下的灰度发布生成P0级上线风险清单”。
【没有这句角色锚定，AI会默认按通用IT项目逻辑生成，漏掉GPU显存泄漏、NCCL超时重试、KV Cache碎片化等真实模型服务特有风险】。
强制四要素结构
每条风险项必须包含且仅包含以下四字段，用中文括号分隔，顺序不可调换：
【风险场景】→【触发条件】→【验证动作】→【失败信号】
例如：【风险场景】多卡推理显存未释放 → 【触发条件】连续10次/prompt_length=512的batch_size=4请求后 → 【验证动作】nvidia-smi --query-gpu=memory.used --format=csv,noheader,nounits | awk '{sum+=$1} END {print sum/NR}' → 【失败信号】均值＞14800（单位MB）且波动＜200MB。
禁止出现“可能”“建议”“应确保”等非判定词；所有触发条件必须含可采集字段，如response.headers.x-model-latency、/proc/sys/vm/swappiness、nvmlDeviceGetMemoryInfo返回值。
绑定真实技术栈锚点
在提示词中嵌入三处硬约束：
① 模型路径必须限定为NFS挂载点：【/opt/models/qwen25-7b】；
统一LLM网关 - 一个API对接70+AI模型，使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
② vLLM启动参数必须含--tensor-parallel-size=2且--gpu-memory-utilization=0.95；
③ 所有验证动作必须能在目标Pod内执行，禁用需跳转至控制节点的操作。
若AI生成“检查Prometheus中model_load_duration_seconds指标”，必须同步给出curl -s http://localhost:8000/metrics | grep model_load_duration_seconds的具体命令行——否则该条无法被SRE一键执行。
按故障链路分层输出
第一步：从模型加载阶段开始，列出3项风险；
第二步：进入推理服务阶段，列出4项风险；
第三步：覆盖流量切换阶段，列出2项风险；
第四步：收口至回滚验证阶段，列出1项风险。
总数严格为10项，不接受“视情况增加”或“可根据环境调整”等弹性表述。每项编号用①～⑩，且⑤必须是【风险场景】KV Cache命中率突降 → 【触发条件】连续5分钟qps＞80且prompt_cache_hit_rate＜0.3 → 【验证动作】curl -s http://localhost:8000/metrics | grep prompt_cache_hit_rate → 【失败信号】输出值持续低于0.3且无recover日志。
