需在离线电脑部署DeepSeek模型，须先在联网机下载Ollama、DeepSeek模型、Python、CUDA、cuDNN、PyTorch等离线包并校验；再于离线机安装驱动、CUDA环境，通过Ollama加载模型或用llama.cpp运行GGUF量化版。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您希望在无网络连接的个人电脑上运行DeepSeek模型，则需通过离线方式完成环境构建、模型加载与服务启动。以下是实现DeepSeek离线部署的具体操作路径：
一、准备离线依赖包与模型文件
在有网络的机器上预先下载全部必需组件，避免目标电脑因断网导致安装中断。所有文件须完整拷贝至离线电脑本地存储路径，确保哈希值校验一致。
1、访问Ollama官网（ollama.com）下载对应系统架构的离线安装包（如ollama-linux-amd64.tar.gz或ollama-darwin-universal.zip）。
2、使用Ollama命令拉取DeepSeek模型并导出为离线文件：ollama pull deepseek-ai/deepseek-coder:6.7b，随后执行ollama save deepseek-ai/deepseek-coder:6.7b deepseek-coder-6.7b.tar。
3、下载Python 3.10+离线安装包、CUDA Toolkit 11.8离线安装包（适配NVIDIA显卡）、cuDNN v8.6离线deb/rpm包，以及PyTorch 2.1.0+whl离线包（含torch、torchaudio、torchvision）。
4、将上述全部文件通过U盘或局域网传输至目标离线电脑，并存放于统一目录（如/offline-pkgs/）。
二、安装基础运行时与驱动环境
离线电脑需先建立可执行AI推理任务的底层支撑环境，包括操作系统级依赖、GPU驱动及CUDA运行库，所有安装均不依赖网络源。
1、在Ubuntu 22.04系统中，挂载离线apt源：将预下载的ubuntu-22.04-offline-repo.iso挂载至/mnt/repo，执行sudo apt-cdrom -d /mnt/repo add并更新本地软件源列表。
2、安装NVIDIA驱动离线包：sudo dpkg -i /offline-pkgs/nvidia-driver-525.85.05_525.85.05-1_amd64.deb，完成后重启系统。
3、安装CUDA 11.8离线包：sudo sh cuda_11.8.0_520.61.05_linux.run --silent --override --no-opengl-libs。
4、安装cuDNN v8.6：sudo dpkg -i /offline-pkgs/cudnn-local-repo-ubuntu2204-8.6.0_1.0-1_amd64.deb，再执行sudo apt-get install -y libcudnn8=8.6.0.162-1+cuda11.8。
三、部署Ollama并加载DeepSeek模型
Ollama作为轻量级模型运行时，支持在无联网状态下直接加载已导出的模型归档文件，无需再次访问远程仓库。
1、解压Ollama离线包：tar -xzf /offline-pkgs/ollama-linux-amd64.tar.gz -C /usr/local/bin/，并赋予执行权限：sudo chmod +x /usr/local/bin/ollama。
2、启动Ollama服务：sudo systemctl enable ollama && sudo systemctl start ollama。
3、导入离线模型文件：ollama load /offline-pkgs/deepseek-coder-6.7b.tar。
4、验证模型是否就绪：ollama list应显示deepseek-ai/deepseek-coder:6.7b及其大小、最后修改时间。
四、配置本地Web界面（可选）
为提升交互体验，可在离线环境中部署Open WebUI，该工具完全静态化，所有前端资源与后端API调用均不依赖外部CDN或云服务。
1、下载Open WebUI离线镜像包：open-webui-offline-v0.4.5-amd64.tar.gz（含预编译二进制与内置前端资源）。
2、解压并启动：tar -xzf /offline-pkgs/open-webui-offline-v0.4.5-amd64.tar.gz && cd open-webui && ./webui。
3、修改配置文件config.yaml，将OLLAMA_BASE_URL设为http://127.0.0.1:11434，确保指向本地Ollama服务。
4、浏览器访问http://localhost:3000，即可使用图形界面与DeepSeek模型交互。
五、启用纯CPU模式（无GPU场景）
当目标电脑未配备NVIDIA GPU时，可通过量化与CPU推理引擎实现模型运行，牺牲部分性能换取完全离线可用性。
1、下载GGUF格式的DeepSeek量化模型（如deepseek-coder-6.7b.Q4_K_M.gguf），该格式兼容llama.cpp生态且无需CUDA。
2、安装llama.cpp离线构建版：git clone --recursive https://github.com/ggerganov/llama.cpp && cd llama.cpp && make -j$(nproc)（此步骤需提前在联网机完成并打包二进制）。
3、启动推理服务：./server -m /offline-pkgs/deepseek-coder-6.7b.Q4_K_M.gguf -c 2048 --port 8080。
4、通过curl或自建HTML页面调用http://127.0.0.1:8080/completion接口提交请求，完成离线问答。
