Hermes Agent 是专为完全离线运行设计的本地智能体框架,支持在笔记本上不联网、不调用API地对话、读PDF、写代码;需16GB内存+6GB显存(或CPU支持AVX2),通过桌面版一键安装,绑定本地GGUF模型或Ollama服务,并启用知识库与沙箱实现安全私有化AI。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

想让大模型不依赖网络、不调用API、完全离线跑在自己笔记本上,还能随时对话、读文档、写代码——Hermes Agent 正是为此设计的本地智能体框架,它把 Llama 3、Phi-4、Qwen2 等主流模型封装成开箱即用的桌面应用。
确认硬件是否撑得住
打开任务管理器 → 切到“性能”页签 → 查看“内存”和“GPU”两项:内存至少16GB(推荐32GB),GPU显存至少6GB(NVIDIA RTX 3060起,AMD需支持ROCm且驱动版本≥6.1)。
若用CPU模式运行,需确认处理器支持AVX2指令集;Intel第8代酷睿或AMD Ryzen 2000系列之后基本满足,老机器可在终端执行 cat /proc/cpuinfo | grep avx2 验证。
没有独立GPU也能跑,但推理速度会明显变慢,【首次加载7B模型可能耗时3~5分钟】,期间界面无响应属正常现象。
一键安装 Hermes Agent 桌面版
访问 https://github.com/ai-hermes/agent-desktop/releases → 找到最新版 Windows/macOS/Linux 的 AppImage(Linux)、.dmg(macOS)或 .exe(Windows)文件 → 直接双击安装(macOS需右键→“打开”绕过公证提示)。
安装过程不修改系统PATH,所有模型与配置均存放在用户目录下的 ~/.hermes-agent(Windows为 %USERPROFILE%\.hermes-agent),卸载只需删除该文件夹+主程序即可。
加载第一个本地大模型
启动 Hermes Agent → 点击左下角“模型管理” → “添加模型” → 选择“Hugging Face 模型ID”或“本地GGUF路径”。
方法一:直接拉取量化模型
输入 bartowski/Qwen2.5-0.5B-Instruct-GGUF → 点击下载 → 自动匹配 Q4_K_M 量化版本(约380MB),下载完即显示为“就绪”状态。
方法二:手动导入已下载的GGUF文件
点击“浏览”,定位到你提前存好的 phi-4.Q5_K_M.gguf 文件 → 确认后自动校验SHA256,【文件名必须含Q#_K_#格式标识,否则无法识别量化等级】。
将小说章节转换为电影分镜剧本。用户上传txt/md/docx文本,AI分析场景、角色、情绪、镜头语言,输出专业分镜脚本。适用于用户提及“分镜”“storyboard”“小说转分镜”“影视改编”“镜头脚本”或需要将小说改编为分镜的场景。
方法三:从 Ollama 库桥接(需先装 Ollama)
启用“Ollama 后端”开关 → 在模型列表里会出现 llama3:8b、qwen2:7b 等已 pull 的模型 → 点击即可绑定,无需重复下载。
让模型读懂你的PDF和代码文件
第一步:点击顶部工具栏“知识库” → “新建知识库” → 命名如“Python笔记” → 创建。
第二步:拖入PDF、Markdown、TXT、IPYNB或.py文件(单次最多20个,总大小不超过512MB)→ Hermes 自动切片、嵌入、存入本地向量库(使用 Qdrant Lite,不启后台服务)。
第三步:回到聊天界面 → 左侧模型选择器下方勾选“启用知识库” → 再提问:“对比asyncio和threading的适用场景” → 模型将结合你上传的《并发编程速查表.pdf》内容作答。
注意:首次构建知识库时,PDF中的表格和公式可能被忽略,建议优先上传纯文本类资料;代码文件解析默认开启AST语义理解,能准确识别函数定义与调用链。
用快捷键触发专属工作流
按 Ctrl+Shift+P(Windows/Linux)或 Cmd+Shift+P(macOS)呼出命令面板 → 输入“Run Code” → 选择“执行当前代码块” → Hermes 会自动识别光标所在语言环境,调用内置 Python/Node.js/Rust 解释器沙箱运行。
再按一次 Ctrl+Shift+P → 输入“Summarize” → 选中一段长文本 → 触发摘要生成,模型会在3秒内返回结构化要点(含关键词加粗标记)。
这些快捷命令不依赖联网,全部在本地完成,【沙箱执行代码时禁止访问文件系统和网络,安全隔离由 WebAssembly runtime 强制保障】。

















