用--keep-alive参数或OLLAMA_KEEP_ALIVE环境变量可让Ollama模型常驻内存,支持时间单位如30m、24h、0(永久),但重启后需重载;systemd配置或定时脚本可实现开机自启与兜底保活。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

调试大模型时反复加载卸载,每次都要等几秒到十几秒,对话上下文还全丢了,这种卡顿和断连严重影响开发节奏。
用keep_alive参数让单次运行常驻内存
在命令行中直接运行模型时,追加keep_alive参数即可延长内存驻留时间。比如运行Qwen2:7b并保持1小时不卸载:
ollama run qwen2:7b --keep-alive 1h
这个参数支持多种时间单位:30m(30分钟)、24h(24小时)、720h(30天)。若设为0,表示永久驻留——但【系统重启后不会自动恢复,需重新运行】。
注意:该设置只对当前终端会话有效,关闭窗口或终止进程后即失效。
全局配置OLLAMA_KEEP_ALIVE环境变量
让所有模型默认长期驻留,无需每次手动加参数。
第一步:编辑shell配置文件,如~/.bashrc或~/.zshrc,添加一行:
export OLLAMA_KEEP_ALIVE=4h
第二步:执行source ~/.bashrc(或对应配置文件)使变量生效。
第三步:重启Ollama服务,确保新环境变量被读取:systemctl --user restart ollama。
此后所有通过ollama run启动的模型,只要未被显式卸载,都会按此时间保活。该值可被命令行--keep-alive覆盖,优先级更高。
配合systemd服务实现开机自启+常驻保活
方法一:修改systemd服务文件,注入keep_alive逻辑
编辑~/.config/systemd/user/ollama.service,在[Service]段末尾添加:
Environment="OLLAMA_KEEP_ALIVE=24h"
方法二:用定时脚本兜底唤醒(防意外卸载)
创建脚本~/keep-ollama-alive.sh,内容为:
#!/bin/bash<br>ollama ps | grep -q "NAME" || exit 0<br>ollama list | head -n2 | tail -n1 | awk '{print $1}' | xargs -I {} ollama run {} --keep-alive 10m &>/dev/null
给脚本加执行权限:chmod +x ~/keep-ollama-alive.sh。
用crontab -e添加每5分钟检查一次:*/5 * * * * /home/$(whoami)/keep-ollama-alive.sh。
这一步能防止因长时间无调用导致模型被清出内存,尤其适合后台API服务场景。
验证模型是否真正在内存中
运行ollama ps,观察输出中的UNTIL列:
若显示in 23m、2h from now或60m等倒计时,说明保活生效;
若显示Stopping或为空,则已卸载;
若显示indefinitely,表示设置了--keep-alive 0或OLLAMA_KEEP_ALIVE=0。
执行ollama ps后立即再运行一次相同模型,响应应为毫秒级——这是热加载的标志,证明模型仍在内存中。


















