讲师中心 微信公众号

工具推荐

视频效率加速
updream

一键生成高质量推广成片

立刻MV
立刻MV

低成本歌曲 MV、视频生成

剧云
剧云

中文短剧剧本制作平台

SoundView
SoundView

字幕擦除翻译、配音口型同步

Ollama怎么修改模型的上下文长度?

大婷君_1195

大婷君_1195

发布时间:2026-11-17 11:23:36

|

218人浏览过

|

来源于php中文网

原创

Ollama默认上下文长度为2048 token,需通过命令行--num_ctx、Modelfile重建或API options动态设为更高值(如8192或131072),且须确保Ollama≥0.4.0、模型原生支持并正确重建。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

ollama怎么修改模型的上下文长度?

当你用Ollama运行本地大模型时,发现输入一篇5000字的合同却只被看到前2000字,模型反复回复“信息不足”,这通常不是模型能力问题,而是Ollama默认把上下文长度锁死在2048 token——哪怕你用的是标称支持128K的Qwen3-35B或ChatGLM3-128K。

临时启用长上下文(命令行快速验证)

第一步:确认模型已拉取。执行ollama list,确保目标模型(如qoder、deepseek-r1-distill-qwen:7b或entropyyue/chatglm3:128k)出现在列表中。

第二步:直接带参数启动。例如将上下文设为8192:ollama run qoder --num_ctx 8192。这会覆盖默认2048值,立即生效。

第三步:测试是否真正加载成功。启动后输入/set context(部分模型支持)或直接发一段超长文本(≥6000字),观察是否完整接收并响应。若仍被截断,说明模型本身不支持该长度,或Ollama版本低于0.4.0——【必须升级到Ollama ≥0.4.0才识别--num_ctx参数】。

永久修改上下文长度(Modelfile重建法)

方法一:导出并编辑现有Modelfile

执行ollama show qoder --modelfile > ./qoder-modified.Modelfile,将当前模型配置导出为本地文件。

用文本编辑器打开该文件,在FROM行正下方插入一行:PARAMETER num_ctx 131072。注意不要缩进,不要加引号,不要写成parameter(大小写敏感)。

保存后执行重建命令:ollama create qoder-longctx -f ./qoder-modified.Modelfile。新模型名必须与原名不同,否则会报错。

【关键提醒:仅修改Modelfile文件不会生效,必须执行ollama create重建模型】。旧模型缓存不会自动清除,需手动ollama rm qoder再运行新模型名。

Qwen Skill
Qwen Skill

通过 DashScope API 使用通义万象生成和编辑图像。这是一项技能,而非可调用工具。请先使用读取工具打开 SKILL.md 文件,然后执行……

下载

方法二:从零创建自定义Modelfile(推荐用于生产环境)

新建纯文本文件,命名为Modelfile,内容如下:

FROM qwen2.5:32b-instruct-q4_K_M
PARAMETER num_ctx 131072
PARAMETER temperature 0.3
PARAMETER top_p 0.85

其中FROM行必须指向一个真实存在的基础模型标签,不能拼错;num_ctx值不可超过该模型原生上限(Qwen2.5-7B最高128K,Qwen2.5-1M才支持1M)。

执行ollama create my-qoder-128k -f ./Modelfile。完成后即可用ollama run my-qoder-128k直接启动,无需每次加参数。

通过API动态控制上下文(适合多任务调度)

如果你的应用通过HTTP调用Ollama API(地址http://localhost:11434/api/chat),可在请求体JSON中嵌入options字段:

{"model":"qoder","messages":[{"role":"user","content":"请总结以下法律条款..."}],"options":{"num_ctx":8192}}

这种方式无需重启Ollama服务,每次请求可独立指定长度,但仅对Ollama原生API有效——【OpenAI兼容接口(/v1/chat/completions)不支持该参数,会静默忽略】。

注意:单次请求的messages + response总token数不能超过num_ctx设定值,否则模型会在中途突然中断输出,且不报错。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
Go-Zero API开发使用教程
Go-Zero API开发使用教程

本专题聚焦Go-Zero的API开发,拆解.api描述文件的语法结构、路由与分组定义、参数绑定与校验规则,说明统一响应体、JWT鉴权、跨域与接口文档生成的落地方式,并给出网关聚合与接口测试的实践建议。

140

2026.11.12

Go-Zero安装与goctl环境配置教程
Go-Zero安装与goctl环境配置教程

本专题围绕Go-Zero的安装与工具链配置展开,讲清Go版本要求、goctl安装方式、代理镜像、protoc依赖与环境变量设置,说明多版本共存、升级回退与CI流水线安装的做法,并整理安装阶段的常见报错与验证步骤。

100

2026.11.12

Go-Zero零基础入门教程
Go-Zero零基础入门教程

本专题整理Go-Zero的入门知识,从框架定位、环境准备到跑通第一个API服务,讲清目录分层、配置加载、日志与中间件的基本用法,并对比Gin、Kratos的差异,帮助Go开发者建立整体认知,判断它是否适合当前项目。

80

2026.11.12

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

160

2026.11.06

Postman请求头Headers怎么设置
Postman请求头Headers怎么设置

围绕Postman HTTP请求头配置展开,讲解Headers选项的具体使用方式,包括Key和Value参数填写、请求头信息添加、常见Header字段设置及请求头修改方法,帮助用户解决接口调试过程中遇到的请求头配置问题。

140

2026.11.06

Postman接口请求发送教程
Postman接口请求发送教程

详细介绍Postman接口请求的创建与发送方法,涵盖GET和POST请求、URL配置、请求参数、Headers请求头、Body请求体设置以及响应结果查看,帮助用户掌握Postman接口请求的完整操作流程。

120

2026.11.06

DBeaver怎么导入数据
DBeaver怎么导入数据

DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。

120

2026.11.05

DBeaver安全防护教程大全
DBeaver安全防护教程大全

DBeaver安全防护专题,围绕数据库连接安全、账号密码保护和访问权限管理展开,整理SSL/TLS加密连接、SSH隧道、数据库凭据保存及证书验证等配置方法,同时介绍敏感信息保护、远程连接风险和高权限账号使用等注意事项,帮助用户提高数据库日常管理的安全性。

100

2026.11.05

DBeaver连接创建与配置教程
DBeaver连接创建与配置教程

本专题聚焦DBeaver数据库连接配置与管理,覆盖从新建连接、选择数据库类型到填写连接参数和验证连接的完整流程。针对MySQL、PostgreSQL、SQL Server等常见数据库,整理相应的连接设置方法,并提供驱动缺失、认证失败和连接异常等问题的排查方向。

120

2026.11.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习

Qoder手册
Qoder手册

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn