推荐新手使用Ollama一键部署:下载安装Ollama后,执行ollama run deepseek-r1:7b即可自动下载4.2GB GGUF模型并进入本地交互式对话。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

如果您希望在个人电脑上运行DeepSeek模型,但缺乏清晰的部署路径,则可能是由于缺少环境适配、工具链选择或模型加载方式的明确指引。以下是完成本地部署的多种可行方案:
一、使用Ollama一键部署(推荐新手)
Ollama是一个轻量级本地模型运行框架,无需配置CUDA、Python虚拟环境或手动编译,适合Windows/macOS/Linux系统快速启动DeepSeek。
1、访问 ollama.com 官网,下载对应操作系统的安装包并完成安装。
2、安装完成后,桌面出现小羊驼图标(?),打开终端(Windows使用CMD或PowerShell,macOS/Linux使用Terminal)。
3、执行命令拉取DeepSeek-R1模型,例如:ollama run deepseek-r1:7b。
4、首次运行将自动下载GGUF格式模型文件(约4.2GB),下载完成后即进入交互式对话界面。
5、输入任意提示词(如“写一首关于春天的五言绝句”),模型将在本地显卡或CPU上实时推理并返回结果。
二、通过conda+PyTorch部署(适合开发者)
该方式提供完整控制权,支持自定义模型路径、量化参数与GPU加速配置,适用于需微调或集成至Python项目的场景。
1、安装Anaconda或Miniconda,然后创建隔离环境:conda create -n deepseek_env python=3.10。
2、激活环境:conda activate deepseek_env。
3、安装支持CUDA的PyTorch(以CUDA 11.8为例):pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118。
4、安装transformers与accelerate库:pip install transformers accelerate。
5、从Hugging Face Hub加载DeepSeek模型(需提前注册账号并同意模型许可):from transformers import AutoModelForCausalLM; model = AutoModelForCausalLM.from_pretrained("deepseek-ai/deepseek-r1-7b", device_map="auto")。
三、Docker容器化部署(适合多模型共存环境)
利用官方或社区维护的Docker镜像,可避免依赖冲突,实现DeepSeek与其他AI服务(如Llama.cpp、Open-WebUI)并行运行。
1、安装Docker Desktop(Windows/macOS)或docker.io(Ubuntu)并确保服务已启动。
2、拉取支持DeepSeek的推理镜像,例如:docker pull ghcr.io/huggingface/text-generation-inference:2.4.0。
统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。
3、下载DeepSeek-R1-7B的GGUF模型文件(如deepseek-r1-7b.Q4_K_M.gguf),保存至本地目录(如./models/)。
4、启动容器并挂载模型目录:docker run --gpus all -p 8080:80 -v $(pwd)/models:/data ghcr.io/huggingface/text-generation-inference:2.4.0 --model-id /data --quantize gguf。
5、访问 http://localhost:8080/docs,使用Swagger UI向模型发送HTTP请求进行推理。
四、Windows一键安装包部署(免命令行)
针对不熟悉终端操作的用户,DeepSeek官方提供图形化安装程序,内置运行时、模型与基础Web UI。
1、前往GitHub Releases页面:https://github.com/deepseek-ai/deepseek/releases。
2、下载最新版 deepseek-windows-installer-v2.3.1.exe(截至2026年5月为最新稳定版)。
3、以管理员身份运行安装程序,勾选“安装CUDA运行时”与“添加到PATH”选项。
4、安装完成后,桌面生成“DeepSeek Launcher”快捷方式,双击启动。
5、在Launcher界面中选择预置模型(7B/Q4_K_M)、设置GPU设备编号,点击“Start Server”,自动开启本地Web服务。
五、基于LM Studio的GUI部署(零代码)
LM Studio是专为本地大模型设计的桌面应用,提供可视化模型管理、参数调节与聊天界面,完全屏蔽底层技术细节。
1、访问 https://lmstudio.ai 下载LM Studio客户端(支持x64/ARM64 Windows/macOS)。
2、安装后启动程序,在搜索栏输入 deepseek-r1,从Hugging Face结果中选择GGUF格式的7B量化模型。
3、点击“Download & Run”,自动完成下载、校验与加载,状态栏显示“Ready”即表示就绪。
4、切换至Chat标签页,在输入框中键入问题,点击发送按钮即可获得本地推理响应。
5、在Settings中可调整上下文长度(默认4096)、温度值(默认0.7)及GPU卸载层数(如设置为24层以最大化RTX 4070利用率)。


















