讲师中心 微信公众号

工具推荐

视频效率加速
Laper
Laper

剧本策划到成片协作

立刻MV
立刻MV

低成本歌曲 MV、视频生成

AniShort
AniShort

AI短剧协同制作平台

updream

一键生成高质量推广成片

llama.cpp v1.0.0如何评估旧API迁移,b12347、b12359、b12360是什么构建

夜静姑娘_3483

夜静姑娘_3483

发布时间:2026-11-14 09:15:51

|

295人浏览过

|

来源于php中文网

原创

llama.cpp v1.0.0迁移首先涉及调用边界:旧公共api中的35个已弃用函数、llama_set_warmup、defrag_thold字段及--defrag-thold参数被移除;nextn接口进入llama.h,llama_set_embd_state_src更名为llama_set_ctx_state_src。同轮b12347、b12359、b12360是nightly构建标识,不能替代正式版本身份;v1.0.0说明指向b12359作为nightly构建。

llama.cpp v1.0.0正式发行中的服务器变更

被移除与被更名的接口怎样区分

被更名的接口有明确的新名称;被移除的接口则不能只靠字符串替换恢复。对于llama_set_embd_state_src,可以围绕新名称llama_set_ctx_state_src核对调用;对于llama_set_warmup和被移除的其他旧函数,必须按当前公共头文件重新判断所需行为,不能假定存在统一兼容别名。

NextN/speculative接口从llama-ext.h进入llama.h,改变了公共接口的位置和名称边界,并不代表任意模型都会自动获得推测解码收益。模型支持、调用方式和构建条件仍需分别核对。把头文件变化与推理效果分开,能避免迁移时只解决编译报错却误判运行行为。

llama.cpp v1.0.0公共API移除与NextN接口说明

如何先检查自己的源码和启动配置

在已安装ripgrep的开发环境中,从自己的项目根目录运行下面的只读搜索。点号代表当前项目目录;默认遵循ripgrep的忽略规则,若配置在其他目录,应将点号替换为实际路径。命令只定位这些明确发生变化的名称,不覆盖全部35个旧函数。

rg -n 'llama_set_warmup|llama_set_embd_state_src|defrag_thold|--defrag-thold' .

命中时会显示路径、行号和对应文本,便于区分源码字段、函数调用与启动脚本;无匹配通常返回退出码1,表示这组模式没有命中,并不证明项目已完成迁移。搜索不会编译或运行项目,也不修改文件。

缓存能力新增不等于旧配置自动兼容

v1.0.0增加OCP FP8 KV缓存,缓存类型使用f8_e4m3;MoE专家缓存使用主机内存,并在llama_context_params中增加moe_cache_size和moe_cache_cpu_share。KV缓存保存推理状态,MoE专家缓存处理专家权重访问,两者不是同一份内存,也不能相互替代。

该版本还加载外部PLE分片,并扩展模型与音频接口;这些能力不能用来推断任意GGUF文件、设备和缓存组合都已兼容。迁移重点应是实际依赖的接口、参数和模型路径,而不是仅把构建号更新成更大的数字。

服务器部署也需要单独评估

llama-server修复了SSRF、CORS与DNS重绑定等处理,并为未认证工具和私有媒体URL增加显式选择启用的开关。MCP工具调用在客户端断开或超时时取消并通知服务器。公共API迁移与服务器访问边界属于不同检查项,成功编译不能替代部署安全条件的核对。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

函子Zion

一款支持AI搭建、可视化编辑和多端发布的全栈无代码开发平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

码上飞
码上飞 Hot

一款基于自然语言的AI应用开发平台,可根据用户描述自动生成应用程序,帮助个人和团队快速完成应用原型与开发。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

相关专题

更多
Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

20

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

20

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

20

2026.11.12

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

120

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

100

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

100

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

80

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

80

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

80

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn