预发布构建 b12466 扩大了激活算子的张量支持范围。有一项变化涉及半精度数据,另一项涉及单精度数据在内存中的布局。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

两个支持项分别指什么
llama.cpp b12466 面向 OpenCL 后端的 SiLU 激活算子。f16 指半精度浮点格式,f32 指单精度浮点格式。非连续 f32 则说明元素在内存中的访问需要遵循张量实际步幅,不能把它按连续排列理解。

哪些场景与此相关
如果模型计算会走 OpenCL 的 SiLU,使用半精度张量或非连续的单精度张量时,这次支持范围的变化才相关。其他激活算子和后端不在这条变更的范围内。
什么仍需按运行环境确认
b12466 是预发布构建。发行记录列明的是算子支持范围,没有给出适用于所有设备、形状或模型的速度数据。

















