使用 MimirLLM 构建去中心化 AI 聊天机器人：分步教程

与 MimirLLM 一起探索去中心化聊天机器人前景

本教程将指导您使用 MimirLLM（一个用于 AI 语言模型的点对点通信库）构建去中心化聊天机器人。 您将创建一个系统，其中节点通过去中心化网络托管大型语言模型 (LLM) 并与之交互。

主要学习目标：

• 在节点和客户端模式下设置 MimirLLM。
• 利用/mimirllm/1.0.0协议进行同行发现和LLM通信。
• 集成 OpenAI 或 Ollama 等自定义模型。

先决条件：

• Node.js v22.13.0 (LTS) 或更高版本（从nodejs.org 下载）。
• 可选：Ollama 或 OpenAI API 密钥（用于 OpenAI 或 Ollama 模型集成）。

---

第 1 步：存储库克隆和依赖项安装

克隆 MimirLLM 存储库并安装其依赖项：

git clone https://github.com/your-repo/mimirllm.git
cd mimirllm
npm install

这将安装 libp2p（用于点对点通信）和 openai（用于 OpenAI 模型交互）。

第 2 步：设置 LLM 托管节点

配置一个节点来托管 LLM 并使其在网络上可发现。

创建节点脚本 (node.ts)：

import { createLibp2p } from './createNode';
import libp2pConfig from '../../shared/libp2p';
import { MimirP2PClient } from '../../shared/mimir';

createLibp2p(libp2pConfig).then(async (node) => {
    console.log('Node listening on:');
    node.getMultiaddrs().forEach((ma) => console.log(ma.toString()));

    const mimir = new MimirP2PClient(node, {
        mode: "node",
        openaiConfig: {
            baseUrl: process.env.OLLAMA_ENDPOINT || "https://api.openai.com/v1",
            apiKey: process.env.OPENAI_API_KEY || null
        }
    });
    await mimir.start();
}).catch((e) => {
    console.error(e);
});

运行节点：

tsx node.ts

节点将开始监听并公布其托管的 LLM。 输出将显示其监听地址（例如，/ip4/127.0.0.1/tcp/12345/p2p/QmPeerId）。

第 3 步：构建 LLM 交互客户端

创建一个客户端来发现托管的 LLM 并与之交互。

创建客户端脚本 (client.ts)：

import { createLibp2p } from "libp2p";
import libp2pConfig from "../../shared/libp2p";
import { MimirP2PClient } from "../../shared/mimir";
import { createInterface } from "readline";
import { streamToConsole } from "../utils/stream";

// ... (rest of the client.ts code remains the same)

运行客户端：

tsx client.ts

客户端提示消息、发现节点、发送消息并流式传输响应。

第 4 步：协议概述

MimirLLM 使用：

• 发现协议 (/mimirllm/1.0.0/identify)： 用于对等发现和初始通信。客户查询LLM；节点以其托管模型进行响应。
• LLM交互协议（/mimirllm/1.0.0）：用于消息交换。客户端发送消息；节点将它们转发给 LLM 并流回响应。

第 5 步：LLM 定制

MimirLLM 支持 OpenAI 和 Ollama。 配置 MimirP2PClient 以使用您首选的 LLM。 对于 Ollama，将 baseUrl 设置为您的端点；对于 OpenAI，请提供您的 API 密钥。

第 6 步：未来的增强

未来潜在的改进包括强大的发现机制、用于激励节点参与的区块链集成以及对其他法学硕士的支持。

---

MimirLLM 赋能去中心化人工智能。 探索其功能，为其开发做出贡献，并分享您的去中心化人工智能应用程序。 快乐编码！ ？

以上是使用 MimirLLM 构建去中心化 AI 聊天机器人：分步教程的详细内容。更多信息请关注PHP中文网其他相关文章！