AWS多机构编排：指南有示例

AWS多智能体协调器：构建复杂AI应用的灵活框架

每周都有新的生成式AI技术涌现，AWS多智能体协调器便是近期一个用于管理多个AI智能体的框架。无论您是构建客户支持系统还是专门的多智能体应用程序，都值得考虑这个框架。

本教程将解释AWS多智能体协调器的独特之处，提供逐步指导以设置环境，并开发一个演示项目来实际体验该框架。

什么是AWS多智能体协调器？

AWS多智能体协调器是一个灵活且功能强大的框架，旨在管理AI智能体并促进复杂的多轮对话。其预构建组件能够快速开发和部署，因此您可以专注于自己的应用程序，而无需从头开始重建这些组件。

AWS多智能体协调器提供以下功能：

• 智能路由：动态识别每个查询的最佳智能体。
• 流式和非流式响应：支持两种智能体响应格式。
• 上下文管理：在多轮对话中管理连贯性和历史记录。
• 可扩展性：创建新的智能体或修改现有的智能体。
• 通用部署：可在AWS Lambda、本地环境和云平台上运行。

该框架支持Python和TypeScript。

多智能体协调器的工作原理概述。（来源）

上图显示，分类器会考虑可用的智能体、用户提示和之前的对话历史记录，以选择最适合用户输入的智能体。然后，智能体处理请求。工作流程简单而有效。

设置AWS多智能体协调器

要快速设置环境，您可以按照文档中的说明进行操作。

首先，创建一个新文件夹和一个新的Python环境来安装所需的库。

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

激活新的虚拟环境后，安装库

<code>pip install multi-agent-orchestrator</code>

接下来，需要配置AWS账户。如果您没有AWS账户，请注册一个免费账户以使用免费套餐。注册后，下载AWS CLI。

AWS CLI也需要配置。有关详细说明，请按照设置AWS CLI中的步骤操作，但您可以使用命令aws configure并提供AWS访问密钥ID和秘密访问密钥来采取更简便的方法。您可以在仪表盘中创建新用户后获取这些密钥。

创建新用户时提供的访问密钥。

准备好访问密钥后，运行aws configure并提供密钥，选择离您最近的区域名称（完整列表在此提供），并将默认输出格式设置为json。

如果您的CLI配置正确，运行命令aws sts get-caller-identity应该会显示您的AWS账户ID、用户ID和ARN。

现在，我们已经准备好AWS CLI，需要配置AWS Bedrock以访问所需的LLM。Amazon Bedrock是一项服务，允许您通过API测试和调用基础模型（例如Llama 3.2或Claude 3.5 Sonnet）。多智能体协调器默认使用此服务调用两个模型：

1. Claude 3.5 Sonnet作为分类器
2. Claude 3 Haiku作为智能体

当然，这些模型可以更改，但让我们继续使用默认选择。

要访问这两个模型，请转到Amazon Bedrock > 模型访问并选择“修改模型访问”。选择这两个模型（以及您喜欢的其他模型）并填写任何所需的信息。这部分如下所示：

完成请求后，模型将在1-2分钟内可用。授予请求模型的访问权限后，您应该会在其前面看到“已授予访问权限”。

注意：您可能需要为已创建的用户分配策略。如果您在文章的下一小节（测试您的设置）中遇到问题，可以测试一下。如果是这样，请查看此页面。总而言之，您需要授予已定义的用户对AmazonBedrockFullAccess的访问权限。

测试您的设置

要检查前面所有步骤是否已正确设置，请使用以下代码：

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

如果您可以提示并收到答案，则一切正常。

使用AWS多智能体协调器的演示项目

AWS多智能体协调器存储库提供了几个TypeScript和Python示例项目。我们现在将编写一个简化的Python应用程序，该应用程序包含两个智能体：Python开发人员智能体和ML专家智能体。

我们还将使用Chainlit（一个开源Python包）来为应用程序实现一个简单的UI。首先，安装必要的库：

<code>pip install multi-agent-orchestrator</code>

我们使用下面的代码作为我们的演示应用程序，但让我们首先解释一下：

1. 我们首先导入必要的库。
2. 我们使用“anthropic.claude-3-haiku-20240307-v1:0”作为我们分类器的模型。当新的用户输入到达时，此分类器将选择要使用的智能体。
3. 我们将创建的分类器传递给MultiAgentOrchestrator并定义一些配置。
4. BedrockLLMAgent类用于创建我们的智能体。为每个智能体提供名称和说明。对于智能体，您可以选择任何可访问的模型，甚至可以使用Ollama在本地运行它们。设置streaming=True并将ChainlitAgentCallbacks()作为回调将使智能体返回流式响应而不是完整的响应。最后，我们将每个智能体添加到协调器中。
5. 设置user_session，并定义处理用户和智能体消息的主要部分。

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

现在是运行应用程序的时候了。为此，首先运行chainlit run app.py -w .。您现在可以在浏览器中打开的新选项卡中测试您的应用程序。

如屏幕截图所示，我们现在提供了一个UI来测试我们的应用程序并与智能体聊天。

请注意，由于第一个提示“法国的首都是什么？”与我们的任何智能体都没有关系，因此系统不会提供答案。这对于保持聊天的相关性并在使用这些模型时避免花费不必要的积分至关重要。但是，当提示与相关问题时，我们的机器学习专家智能体会发挥作用以给出答案，这要归功于多智能体协调器的智能路由。

结论

在本博文中，我们介绍了最新的AWS多智能体协调器框架，重点介绍了其一些独特的功能，概述了设置环境的步骤，探讨了Amazon Bedrock提供的基础模型，并实现了一个演示项目。

在撰写本文时，该框架缺乏全面而详细的文档。要利用其他功能，例如内存和工具使用，您必须阅读代码库并查看提供的示例项目。

密切关注生成式AI框架是明智之举，可以跟上这个快节奏领域的步伐。AWS多智能体协调器是在AWS服务的基础设施上构建的一个有前景的选择，其发展值得关注。

以上是AWS多机构编排：指南有示例的详细内容。更多信息请关注PHP中文网其他相关文章！