必须在有网机器预置离线资源并校验SHA256,再部署至内网;配置config.yaml指定本地模型路径、启用offline_mode、禁用远程API;最后验证qodercli命令可即时输出Python代码。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

在无网络连接的内网环境里让Qoder调用本地大模型写代码,必须跳过所有云端鉴权、模型拉取和远程配置加载环节,只依赖已预置的模型文件与离线CLI工具链完成推理生成。
外网中转机准备离线资源
这一步不能跳过,否则内网启动时会卡在模型下载或认证失败。必须在有网机器上完成全部资源采集与校验,打包成单一可移植目录结构。
1、创建标准离线工作目录:mkdir -p qoder-offline/{models,libs,venv,bin}
2、下载Qoder CLI主程序二进制:访问 https://www.php.cn/link/4fe9b99a93f17369b95f15d8d806128a → 选择带 offline 后缀的包(如 qoder-cli-v0.3.2-linux-amd64-offline.tar.gz)→ 下载后立即执行 sha256sum 记录哈希值。
3、获取Qwen2.5-7B-GGUF量化模型:从HuggingFace镜像站下载 qwen2.5-7b.Q4_K_M.gguf 与配套的 tokenizer.json,存入 qoder-offline/models/ 目录。
4、同步Python依赖轮子:在中转机激活conda环境后运行 pip wheel --no-deps --wheel-dir qoder-offline/libs/wheels -r requirements.txt,确保所有包均为本地可安装格式。
【注意】模型文件体积大且校验严格,传输前务必比对SHA256,否则内网解压后初始化直接报错“model not found”
内网部署并绑定本地模型路径
解压后若不修改配置,Qoder仍会尝试连接 qoderwork.aliyun.com 加载模型,导致命令阻塞或报错退出。
将校验无误的离线包上传至内网服务器 → 执行 tar -zxvf qoder-cli-v0.3.2-linux-amd64-offline.tar.gz -C /opt/qoder/cli/ → 确保 /opt/qoder/cli/bin/qodercli、/opt/qoder/cli/models/ 目录存在且可读。
编辑 /opt/qoder/cli/config.yaml:
- 将 model_path: 改为绝对路径:/opt/qoder/cli/models/qwen2.5-7b.Q4_K_M.gguf
- 在 auth: 区块下新增 offline_mode: true
- 删除或注释掉所有以 https:// 开头的 api_endpoint 行
赋予执行权限:chmod +x /opt/qoder/cli/bin/qodercli
将CLI加入PATH:echo 'export PATH="/opt/qoder/cli/bin:$PATH"' >> ~/.bashrc && source ~/.bashrc
验证离线代码生成功能
现在可以测试是否真正脱离网络运行代码生成任务,无需等待任何远程响应。
运行 qodercli --version,确认输出版本号且无HTTP请求日志。
执行一次本地推理:qodercli --model qwen2.5-7b --prompt "写一个Python函数,输入列表返回去重后的升序结果" --output python
若终端立即输出类似以下内容,说明离线写代码通路已打通:
def dedupe_and_sort(lst): return sorted(list(set(lst)))


















