可在纯CPU设备运行Llama3：一、设OPENCLAW_DEVICE=cpu并启动时加--device cpu；二、用GGUF量化权重（如Q4_K_M）配llama.cpp；三、调低max_context_length、num_threads等参数；四、用health/run命令验证；五、禁用所有GPU依赖技能并重启服务。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
如果您尝试在无GPU设备上运行Llama3模型，但OpenClawAI提示“CUDA unavailable”或加载失败，则说明当前环境未启用CPU推理路径。以下是适配纯CPU设备运行Llama3的可行方法：
一、启用OpenClawAI CPU后端推理模式
OpenClawAI默认优先尝试GPU加载，需显式禁用CUDA并强制切换至CPU执行引擎，以绕过GPU依赖检查并启用量化推理优化。
1、打开终端（Windows使用PowerShell，macOS/Linux使用bash/zsh）。
2、执行命令设置环境变量：export OPENCLAW_DEVICE=cpu
3、若使用Windows系统，请改用：$env:OPENCLAW_DEVICE="cpu"
4、启动OpenClawAI网关时添加参数：openclaw gateway --device cpu
5、关键提示：必须确保环境变量在启动前已生效，且不得与--device cuda或auto同时指定。
二、加载CPU优化版Llama3量化权重
Llama3原始FP16权重在CPU上内存占用高、推理极慢；需使用GGUF格式的INT4/INT5量化版本，配合llama.cpp后端实现可接受延迟。
1、从HuggingFace官方镜像下载Llama3-8B-Instruct.Q4_K_M.gguf文件（约4.7GB）。
2、将该文件存放至OpenClawAI模型目录：~/.openclaw/models/llama3-cpu/
3、编辑配置文件~/.openclaw/openclaw.json，在models节中添加条目：
4、关键提示：禁止使用transformers原生加载方式；必须通过llama.cpp兼容接口调用GGUF模型。
三、调整CPU推理参数以保障稳定性
CPU内存带宽与缓存容量限制显著影响Llama3吞吐，需降低上下文长度与并发请求数，防止OOM或硬冻结。
1、在config.yaml中定位llm节，修改以下字段：
OpenClaw 跨平台配置备份与网关监控。自动备份 openclaw.json，每分钟检测 gateway 状态，宕机时自动恢复。支持 Linux/macOS/Windows。触发：配置备份、gateway 监控、自动恢复、看门狗、watchdog。
2、max_context_length: 2048
3、num_threads: 6
4、cache_capacity_mb: 1024
5、关键提示：num_threads值不得超过物理核心数；若为4核CPU，严禁设为8或更高。
四、验证CPU模式下Llama3响应能力
通过内置健康检查命令确认模型已正确绑定CPU后端，并能完成token生成闭环。
1、执行诊断命令：openclaw health --model llama3-cpu
2、观察输出中"backend"字段是否显示"llama.cpp-cpu"，"status"是否为"ready"
3、手动发起单轮推理测试：openclaw run --prompt "你好，请用一句话介绍你自己" --model llama3-cpu
4、关键提示：首次推理可能耗时90秒以上，请勿中断进程；后续调用将因KV缓存复用而提速至8–15秒/句。
五、禁用GPU相关插件与技能模块
部分OpenClawAI技能（如视频帧提取、实时语音转写）隐式依赖CUDA库，即使未主动调用也会触发初始化失败，导致主进程崩溃。
1、进入Web UI控制台（http://localhost:18789），导航至“技能管理”页。
2、关闭所有名称含“cuda”、“nv”、“video-decode”、“whisper-gpu”的技能开关。
3、编辑~/.openclaw/skills/active.json，移除对应技能ID条目。
4、关键提示：必须重启OpenClawAI服务才能使插件禁用生效；仅刷新页面无效。
