1、本地大语言模型(LLM)部署
使用 ollama 来运行 llama3.2 模型(体积较小,约 1gb)
ollama run llama3.2 <em># 也可替换为 deepseek-r1:7b </em>
详细步骤可查阅:如何通过 ollama 搭建本地 AI 环境
2、创建新项目(结合 solon-ai 调用 LLM)
可通过 Solon Initializr 快速生成基础工程。项目建立后,引入以下依赖:
<dependency><groupid>org.noear</groupid><artifactid>solon-ai</artifactid></dependency>
3、配置应用参数
在 app.yml 配置文件中添加如下信息:
当用户要求为 Java 代码添加注释、修改注释、审查注释、整理注释格式,或要求按照代码注释规范处理 Java 文件时,使用本技能。本技能用于统一生成和维护 Java 类注释模板、按 Git 对比 release 判断版本号、补充每行代码上方中文块注释、调整注释空行规则,并保持 Java 文件 UTF-8 无 BOM 编码。典型触发场景包括:补充类注释、更新 @version、检查 @author 来源、整理行尾注释、把注释放到代码上一行、检查注释是否符合规范、构建前检查 Java 注释风格。
solon.ai.chat: demo: apiUrl: "http://127.0.0.1:11434/api/chat" <em># 使用完整 API 地址(非 api_base)</em> provider: "ollama" <em># 若使用 ollama 服务,需明确指定 provider</em> model: "llama3.2" <em># 或选择 deepseek-r1:7b 模型 </em>
4、编写配置类与测试逻辑
新建一个名为 DemoConfig 的类,用于构建 ChatModel 并进行初步测试。
import org.noear.solon.ai.chat.ChatConfig;import org.noear.solon.ai.chat.ChatModel;import org.noear.solon.ai.chat.ChatResponse;import org.noear.solon.annotation.Bean;import org.noear.solon.annotation.Configuration;import org.noear.solon.annotation.Inject;import java.io.IOException;@Configurationpublic class DemoConfig { @Bean public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) { return ChatModel.of(config).build(); } @Bean public void test(ChatModel chatModel) throws IOException { <em>// 发起请求并获取结果</em> ChatResponse resp = chatModel.prompt("hello").call(); <em>// 输出返回内容</em> System.out.println(resp.getMessage()); }}
5、启动项目查看效果

示例源码下载地址:点击获取

















