讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

SoundView
SoundView

字幕擦除翻译、配音口型同步

Seko
Seko

AI短剧一键生成成片

updream

一键生成高质量推广成片

llama.cpp b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498 预发布构建各适合核对哪些问题?

轻瑶大大_3089

轻瑶大大_3089

发布时间:2026-11-18 13:30:20

|

270人浏览过

|

来源于php中文网

原创

这九个预发布构建分别涉及服务器参数与调度、语音模型支持,以及特定计算后端的修复和优化。判断它们与现有任务是否相关,关键在于模型、硬件和请求条件,而不是只比较构建号大小;这些记录不代表正式稳定版,也没有给出所有模型通用的性能提升结论。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

llama.cpp 官方仓库界面

llama.cpp 这九个预发布构建分别改变了什么?

本次涉及的完整构建号为 b12489、b12490、b12491、b12492、b12493、b12494、b12496、b12497、b12498。官方发行记录均标有 Pre-release,并提供按系统、架构和后端区分的分发资产。下面按实际问题分类说明,适合用于判断相关性,不是已经在读者设备上完成的测试报告。

服务器:参数冲突与调度状态是两类问题

b12489:处理 grammar 与 ignore_eos 同时启用的情况。变更包含采样侧的崩溃修复,服务器对这一组合返回 HTTP 400,并把相关检查移入采样器。这意味着该组合被明确拒绝,而不是两个选项从此可以一起使用。只有遇到这类请求条件时,这条记录才直接相关。

llama.cpp b12489 预发布及对应变更记录

b12498:针对服务器 slot_sched 中 LoRA 与 recurrent 相关的调度问题修复。它与 b12489 的参数组合检查属于不同位置,不能混为同一项修复。发行说明还解释了混合 SWA 检查点测试为什么改为每个 ubatch 一个 token:缓存与非缓存路径的分批方式不同,会让 CUDA 内核路径和接近的概率排序出现差异。

llama.cpp b12498 预发布及对应变更记录

这一测试调整的作用是让两条测试路径在相同内核条件下进行精确输出比较。它没有宣布所有 CUDA 结果都逐位相同,也不能据此推导缓存原先必然失效。调度修复与测试比较条件需要分别理解。

语音:三种模型支持不要互相套用

b12491:mtmd 增加 Qwen3-TTS 的 ICL/reference mode 支持。相关修改还涉及正确性与转录信息附着。它针对指定模型的参考模式,不等同于所有语音模型获得同样的参考能力。

Qwen Skill
Qwen Skill

通过 DashScope API 使用通义万象生成和编辑图像。这是一项技能,而非可调用工具。请先使用读取工具打开 SKILL.md 文件,然后执行……

下载

b12494:mtmd 增加 Kokoro TTS 支持。该条目的修改涉及 G2P 模板、文本规范化相关说明、模板作用域查找及批处理 API 迁移等。这里的支持对象是 Kokoro;不能把这份变更当成 Qwen3-TTS 的使用参数说明。

b12497:mtmd 增加 tiny-voca 支持并改进 G2P。三条记录共同指向语音相关能力,但模型资产、输入形式和适用路径仍各有边界;“支持某模型”并不保证任意权重文件都可直接使用。

计算路径:模型、量化类型和 GPU 架构都有限定

b12490:修复 qwen4exp 中 n-gram 表缩放引起的计算图重新分配,使用 ggml_scale 应用缩放,并在加载后读取一次缩放值。受影响的是这一特定模型路径,不应概括成所有 Qwen 模型的通用修复。

b12492:OpenCL 增加 A7 Q5_K non-MoE 二进制内核。后端、量化类型与 non-MoE 条件都是这条变更的重要限定,不能扩展为所有 OpenCL 模型或所有量化格式都已优化。

b12493:CUDA 让 F32 卷积核走 implicit GEMM conv2d 路径。其说明是先在池缓冲区把 F32 卷积核转换为 F16,再沿快速路径以 F32 累加;因此“输入卷积核是 F32”不等于中间计算全过程都保留 F32 操作数。实际收益仍取决于对应卷积任务。

b12496:HIP 为 AMD GCN 调整 stream_k 算法和 MMQ 配置,使相应路径使用 stream_k。记录还说明 CDNA 测试没有改善,因此不能把 GCN 的改动宣传为全部 AMD GPU 的一致提速。

源码提交、构建标签与可下载包如何区分?

发行标签对应源码修订,发布资产则是该构建下列出的具体分发文件。源码中出现某项支持,并不能单独证明每个预编译包都启用了它;资产列表中的操作系统、CPU 架构和后端限定仍然有效。源码归档与预编译程序包也不是同一种交付物。

因此,这组构建更适合按问题对照:服务请求被拒绝对应 b12489,服务器调度对应 b12498,语音需求对应三个具体模型条目,计算优化则对应具体模型或后端条件。官方变更能说明修复目标和实现方向,但无法代替目标机器、模型文件与业务输入上的兼容性结果。

热门AI工具

更多
码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

相关专题

更多
GoFrame框架Web开发与路由中间件
GoFrame框架Web开发与路由中间件

本专题聚焦GoFrame框架的Web开发,拆解路由注册与匹配规则、请求参数获取、参数校验与中间件执行顺序,说明统一响应、JWT鉴权、文件上传与接口文档生成的落地方式,并补充优雅重启与测试实践。

0

2026.11.17

GoFrame框架安装与gf命令行工具
GoFrame框架安装与gf命令行工具

本专题围绕GoFrame框架的安装与工具链配置展开,讲清Go版本要求、gf命令行的安装方式、代理镜像与依赖准备,说明项目初始化、热编译、交叉编译打包的做法,并整理安装阶段的常见报错与验证步骤。

0

2026.11.17

GoFrame框架零基础入门
GoFrame框架零基础入门

本专题整理GoFrame框架的入门知识,从模块化设计理念、环境准备到跑通第一个Web服务,讲清目录分层、配置加载、日志与中间件的用法,并对比Gin、Go-Zero的差异,帮助Go开发者建立整体认知。

0

2026.11.17

SQLAlchemy 一对多关系怎么建立
SQLAlchemy 一对多关系怎么建立

SQLAlchemy 一对多关系怎么建立?本专题整理父子表外键、relationship 双向映射、关联查询、级联删除和加载优化等相关文章,帮助你理解并实现常见的 ORM 关系建模。

0

2026.11.17

SQLAlchemy 如何增删改查
SQLAlchemy 如何增删改查

SQLAlchemy 如何增删改查?本专题整理 ORM 新增记录、条件查询、更新和删除、Session 事务提交与批量处理等实用文章,帮助你掌握 Python 数据库操作流程。

0

2026.11.17

SQLAlchemy ORM 模型怎么写
SQLAlchemy ORM 模型怎么写

SQLAlchemy ORM 模型怎么写?本专题整理模型类定义、Mapped 字段映射、主键与约束、表结构创建和常见报错的相关文章,帮助你从基础配置到实际建模逐步掌握 SQLAlchemy。

0

2026.11.17

Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

180

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

120

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

100

2026.11.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn