讲师中心 微信公众号
AI工具推荐 视频效率加速

DeepSeek本地部署教程_DeepSeek Ollama部署指南【部署】

小辰姑娘_8853

小辰姑娘_8853

发布时间:2026-02-28 17:28:03

|

1042人浏览过

|

来源于php中文网

原创

需先安装Ollama运行时并验证版本,再拉取deepseek-coder:6.7b或deepseek-r1:14b模型,接着用ollama run启动交互式会话,或通过ollama serve启用API服务,最后可配置NVIDIA GPU加速。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

deepseek本地部署教程_deepseek ollama部署指南【部署】

如果您希望在本地运行DeepSeek模型,但尚未配置Ollama环境,则可能是由于Ollama未安装或模型未正确拉取。以下是完成DeepSeek本地部署的步骤:

一、安装Ollama运行时

Ollama是一个轻量级工具,用于在本地启动和管理大语言模型,它提供命令行接口与模型交互,并自动处理GPU加速和模型加载。确保系统满足最低依赖要求是成功部署的前提。

1、访问 https://ollama.com/download,根据您的操作系统(Windows/macOS/Linux)下载对应安装包。

2、双击安装程序并按提示完成安装;Linux用户可执行 curl -fsSL https://ollama.com/install.sh | sh 安装。

3、打开终端或命令提示符,输入 ollama --version 验证是否返回版本号。

二、拉取DeepSeek官方模型

Ollama支持直接从其模型库中拉取预构建的DeepSeek模型镜像,无需手动下载权重文件或配置参数。拉取过程将自动适配当前硬件环境。

1、在终端中执行 ollama pull deepseek-coder:6.7b 获取代码专用版本。

2、如需通用对话能力,运行 ollama pull deepseek-r1:14b 拉取R1系列模型。

3、执行 ollama list 确认模型名称与状态显示为 loaded。

三、通过命令行运行DeepSeek模型

使用Ollama内置的run命令可快速启动交互式会话,适用于调试、测试及简单推理任务,无需额外编写服务代码。

1、输入 ollama run deepseek-coder:6.7b 启动模型并进入聊天界面。

音频转文本整理稿(本地部署版)
音频转文本整理稿(本地部署版)

本地音视频转录整理技能 — 接收音频、视频、播客链接、字幕、原始转写稿或未整理文字,完成 ASR 转录(本地 faster-whisper / mlx-whisper)、文本清洗整理,输出分享式提纯版中文原文到本地 .txt 文件。所有产物保存在本地。

下载

2、键入问题如 “请生成一个Python函数,计算斐波那契数列前n项” 并回车。

3、等待响应输出完毕后,输入 /exit 退出当前会话。

四、启动Ollama API服务

Ollama默认以API服务器形式运行,允许外部应用(如前端界面、LangChain脚本)通过HTTP请求调用模型,这是集成到自定义系统的关键步骤。

1、在终端中运行 ollama serve 启动后台服务,端口默认为 11434。

2、新开终端窗口,执行 curl http://localhost:11434/api/tags 检查服务是否响应模型列表JSON。

3、发送推理请求:运行 curl http://localhost:11434/api/chat -d '{"model":"deepseek-r1:14b","messages":[{"role":"user","content":"你好"}]}'。

五、配置GPU加速(NVIDIA显卡)

若本地配备NVIDIA GPU,启用CUDA可显著提升推理速度与上下文处理能力,Ollama会在检测到驱动后自动启用GPU卸载。

1、确认已安装 NVIDIA驱动(v525+)与nvidia-container-toolkit。

2、Linux用户执行 sudo ollama serve 启动服务以获取设备权限。

3、运行 OLLAMA_NUM_GPU=1 ollama run deepseek-r1:14b 强制启用单GPU加速。

相关文章

AI工具
AI工具

AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型,支持联网搜索。

下载

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

40

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

20

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

20

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

0

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

20

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

20

2026.10.22

Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

20

2026.10.22

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

140

2026.10.22

剧云人物设定与关系管理教程
剧云人物设定与关系管理教程

本专题介绍剧云人物设定与关系管理,讲解角色小传、性格职业、人物目标、背景资料和关系网络的创建及维护方法。

20

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习

Revel 官方 Deployment 文档
Revel 官方 Deployment 文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn