讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux怎么安装Ollama运行大模型 Linux本地AI环境部署详解

小辰小哥_9093

小辰小哥_9093

发布时间:2026-05-05 08:29:59

|

442人浏览过

|

来源于php中文网

原创

Ollama在Linux安装后常见问题包括服务未启用、环境变量未生效、模型拉取失败等;需手动启动systemd用户服务、通过override文件配置OLLAMA_MODELS路径、设置镜像源或手动导入模型。

linux怎么安装ollama运行大模型 linux本地ai环境部署详解

ollama 在 Linux 上安装本身不难,但装完不能用、模型拉不动、服务连不上、GPU 不加速才是真实痛点。官方脚本能跑通不代表你本地环境就 ready —— 尤其是没配好路径、没开权限、没调端口时,ollama run llama3 很可能卡在 “pulling...” 或直接报 connection refused。


为什么 curl -fsSL https://ollama.com/install.sh | sh 跑完还是 command not found

常见原因是 shell 配置没生效,或用户级 systemd 服务未启用。官方脚本默认注册的是 systemctl --user 服务(非系统级),而很多终端会话不自动加载用户级 service 环境。

  • 执行完脚本后,先检查 ~/.ollama 目录是否已创建:ls -la ~/.ollama
  • 手动启动服务并设为开机自启:systemctl --user enable ollama && systemctl --user start ollama
  • 确认当前 session 支持 user services:loginctl show-user $USER | grep -i "state\|service";若显示 Service=none,需退出重登或改用 sudo systemctl 方式(见下一条)
  • 某些最小化安装的 Ubuntu/CentOS 缺少 dbus-user-session,会导致 --user 模式失败,此时应改用 root 级服务(需 sudo systemctl edit ollama 并补全 [Service] 块)

OLLAMA_MODELS 路径没生效,模型仍往 ~/.ollama/models 写

环境变量必须在 ollama 进程启动前就加载。systemd 用户服务默认不读取 ~/.bashrc,所以仅改 shell 配置无效。

Obsidian (Linux)
Obsidian (Linux)

操作 Obsidian 库(纯 Markdown 笔记),并通过 notesmd-cli 实现自动化。

下载
  • 正确做法是通过 systemd override 文件注入:systemctl --user edit ollama,然后写入:
    [Service]
    Environment="OLLAMA_MODELS=/data/ollama/models"
  • 若用 root 级服务(sudo systemctl edit ollama),同样加 Environment=...,但路径需确保 ollama 用户有读写权限:sudo chown -R ollama:ollama /data/ollama/models
  • 验证是否生效:systemctl --user show ollama | grep OLLAMA_MODELS(用户级)或 sudo systemctl show ollama | grep OLLAMA_MODELS(系统级)
  • 改完务必 reload 并重启:systemctl --user daemon-reload && systemctl --user restart ollama

拉模型慢、超时或 failed to pull,但网络明明正常

根本原因常是 DNS 解析失败或国内访问 GitHub Release 限速 —— ollama pull 底层依赖 GitHub 的二进制分发,不是走 Docker Hub。

  • 临时提速:加 --insecure 跳过证书校验(仅调试用):ollama pull llama3 --insecure
  • 长期方案:配置镜像源(Ollama v0.4.12+ 支持):export OLLAMA_HOST=https://xuanyuan.cloud/zh/r/ollama/ollama,再运行 ollama pull(注意该地址需与你用的中文镜像站一致)
  • 手动下载模型文件(GGUF 格式)后,用 ollama create 导入:
    ollama create my-llama3 -f - <<EOF
    FROM ./llama3.Q4_K_M.gguf
    EOF
  • 别忽略磁盘空间:df -h / 和 df -h ~/.ollama 双查,模型解压后体积通常是下载包的 2–3 倍

ollama serve 能跑,但 curl http://localhost:11434/api/tags 返回空或 404

说明服务起来了,但 API 层没响应 —— 多数情况是 OLLAMA_HOST 配置冲突或进程被重复启动。

  • 先停所有 ollama 进程:pkill -f ollama,再只用 systemd 启动(避免前台 ollama serve 和后台服务共存)
  • 检查监听地址:ss -tuln | grep :11434,正常应看到 127.0.0.1:11434 或 *:11434;若只有 127.0.0.1 却想局域网访问,必须设 OLLAMA_HOST=0.0.0.0:11434
  • Ubuntu 24.04 默认开启 ufw,记得放行:sudo ufw allow 11434
  • API 路径大小写敏感:/api/tags ✅,/API/TAGS ❌;且 v0.4.12+ 已弃用 /v1 前缀,OpenAI 兼容接口走 /v1/chat/completions,原生接口走 /api/chat

真正卡住的点,往往不在“怎么装”,而在“谁在管这个进程”“变量在哪生效”“路径归谁所有”。systemctl --user 和 sudo systemctl 混用、~/.bashrc 和 systemd 环境变量打架、模型目录权限没同步给 ollama 用户——这些细节一漏,就从 5 分钟部署变成 5 小时排查。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

相关专题

更多
磁盘配额是什么
磁盘配额是什么

磁盘配额是计算机中指定磁盘的储存限制,就是管理员可以为用户所能使用的磁盘空间进行配额限制,每一用户只能使用最大配额范围内的磁盘空间。php中文网为大家提供各种磁盘配额相关的内容,教程,供大家免费下载安装。

4110

2023.06.21

如何安装LINUX
如何安装LINUX

本站专题提供如何安装LINUX的相关教程文章,还有相关的下载、课程,大家可以免费体验。

3493

2023.06.29

linux find
linux find

find是linux命令,它将档案系统内符合 expression 的档案列出来。可以指要档案的名称、类别、时间、大小、权限等不同资讯的组合,只有完全相符的才会被列出来。find根据下列规则判断 path 和 expression,在命令列上第一个 - ( ) , ! 之前的部分为 path,之后的是 expression。还有指DOS 命令 find,Excel 函数 find等。本站专题提供linux find相关教程文章,还有相关

2693

2023.06.30

linux修改文件名
linux修改文件名

本专题为大家提供linux修改文件名相关的文章,这些文章可以帮助用户快速轻松地完成文件名的修改工作,大家可以免费体验。

6570

2023.07.05

linux系统安装教程
linux系统安装教程

linux系统是一种可以免费使用,自由传播,多用户、多任务、多线程、多CPU的操作系统。本专题提供linux系统安装教程相关的文章,大家可以免费体验。

6222

2023.07.06

linux查看文件夹大小
linux查看文件夹大小

Linux是一种自由和开放源码的类Unix操作系统,存在着许多不同的Linux版本,但它们都使用了Linux内核。Linux可安装在各种计算机硬件设备中,比如手机、平板电脑、路由器、视频游戏控制台、台式计算机、大型机和超级计算机。linux怎么查看文件夹大小呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3613

2023.07.20

linux查看ip命令
linux查看ip命令

本专题为大家提供linux查看ip命令相关文章内容,感兴趣的朋友可以免费下载体验试试。

3105

2023.07.20

linux查看cpu使用率
linux查看cpu使用率

在linux的系统维护中,可能需要经常查看cpu使用率,分析系统整体的运行情况。本专题为大家带来了linux查看cpu使用率的相关文章,感兴趣的朋友千万不要错过了。

3339

2023.07.25

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

80

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn