llama.cpp的fp8权重量化与fp8 kv缓存有什么区别？前者影响模型张量的数值表示，后者影响推理期间保存的键值缓存，不能由模型文件采用fp8就推定运行时kv也采用fp8。v0.9.0正式版包含ocp fp8 e4m3张量与量化相关能力，fp8 kv缓存则来自b12274预览构建；两者还受模型、缩放处理和后端支持条件影响。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
同样写FP8，处理的对象并不相同
权重表示决定模型张量如何保存和参与运算，KV缓存则服务于推理时的上下文状态。它们位于不同环节，所以权重量化方式、缓存精度以及后端算子支持应分别理解。只看模型文件名称或一个量化标签，不能完整描述运行时的内存与计算路径。
v0.9.0提供OCP FP8 E4M3类型、转换辅助及新的量化类型。b12274另加入FP8 KV支持，处理缩放、缓存scale名称及映射，并为Gemma 4 Assistant适配相关缩放参数。其发行页明确标为Pre-release，不能把后续缓存能力一并归进v0.9.0正式版。
缓存精度、缓存管理和分配失败是三类问题
FP8 KV关心缓存的数值表示；v0.9.0的flash_attn_ext_rows算子则改善多序列推理下统一KV缓存的效率。服务侧b12141把检查点由深拷贝改为引用计数结构，b12271在调度参数兼容时复用后端调度器，分别针对保存恢复开销和调度复用。不能把这些都简化成“缓存精度降低”。
b12273修复并发投机解码的采样输出缓冲区别名问题，属于并发正确性。b12263在CUDA虚拟地址池预留失败时减半预留并重试，针对的是地址池预留策略，不代表模型实际所需显存减半。内存峰值、上下文长度、并发和生成延迟也不能只由“FP8”三个字符推算。
正式版的模型与接口变化有哪些
v0.9.0增加Clover、Limite、Metis-1.6、Mistral Large 4架构，扩展Chatterbox TTS、Nemotron 3.5 Transcribe和Pocket TTS预定义声音，Gemma 4 E2B、E4B计算图加入预填充优化。底层ggml推进到v0.29.0，包含NCCL多节点张量并行和多个后端变化。
通用批量张量复制API替代旧二维复制API，Metal和CUDA已有实现；mtmd增加声音接口，GET /props可报告模型预定义TTS声音，TTS端点接收声音名称，/v1/responses合并extra_params相关参数。这些分别属于数据搬运、音频接口和参数映射，不能由量化支持推定外部集成无需适配。
多模态与结构化输出为什么仍要看构建号
b12259增加Kimi K3.1视觉，并修正K2.5、K3.1预处理和投影；b12261共享多模态子上下文计算缓冲区，并补音频生成加载分配；b12277修复字符串格式化并改用mtmd_format。b12211此前整合相关代码到mtmd并移除clip.h，依赖旧头文件的集成不能只更新二进制就假定源码接口不变。
结构化输出链路也并非单一开关：b12253修复工具参数字符串的原始控制字符造成无效JSON，b12254处理allOf与普通类型组合产生空对象语法；b12242调整response_format与工具并用，b12282补Muse Spark聊天路径忽略json_schema的问题。它们处理不同转换环节，生成结果的业务模式校验仍然必要。
音频方面，b12233支持外部PLE文件加载，b12236加入重采样辅助，b12237支持Gemma 4音频输入流，b12238提供OpenAI兼容/v1/audio/speech端点。b12239调整实时API内部输入表示，b12240将Responses API的text.format.json_schema转换到Completions格式；音频输入、语音输出和结构化响应并不共享完全相同的请求条件。
后端修复为什么不能外推为统一加速
CUDA的b12144涉及MoE数据布局与F16性能回归，b12167修复Maxwell构建，b12262减少CUDA图复用时的重复兼容性检查；b12169将CUDA 13发布构建推进到13.5。它们有各自硬件或构建条件，不构成所有显卡的同幅度提速承诺。
骁龙相关b12125默认启用Adreno X2小批量f32和q5_K多列GEMV路径；b12246限制Qualcomm大注意力头条件下Vulkan标量Flash Attention处理行数，避免特定寄存器溢出。Hexagon b12164改善重打包、分块和批量张量设置，b12241修复关闭时64位FastRPC句柄截断。OpenCL b12213补f32 MUL_MAT_ID，b12219补构建头文件，这些都应按实际设备与路径解释。
b12129为AMD专有驱动26.10.1及以上重新启用大型cooperative-matrix矩阵乘配置。Metal b12220修正三角算子无穷值选择逻辑，b12221防止Flash Attention输出缓冲区越界，b12270增加矩阵乘输入精度测试和限制。SYCL b12283则让CLAMP正确处理非连续或带步长张量视图；提供预编译包不改变其预览性质。
还有哪些条件容易在升级判断中被忽略
zDNN b12212处理发布包未检测到后端库，b12230处理非zDNN张量及计算张量失效；b12223补Granite NVFP4权重缩放，b12224避免上传未被读取的输入。b12140支持YaRN truncate=false，涉及gpt-oss和部分PLaMo-3，b12214调整RoPE测试容差。b12245只在关闭mmap时应用iGPU lazy-mode回退，不代表默认iGPU加载路径全部改写。
构建号变大也不自动代表推理收益。例如b12128主要处理TOPK_MOE测试因近似并列数值导致的CI偶发失败。对部署选择而言，正式或预览标记、模型架构、接口契约和硬件条件，比单一编号或单个速度数字更能说明变化是否适用；这些更新也不能统一描述成紧急安全补丁。
