AWS多機構編排：指南有示例

AWS多智能體協調器：構建複雜AI應用的靈活框架

每週都有新的生成式AI技術湧現，AWS多智能體協調器便是近期一個用於管理多個AI智能體的框架。無論您是構建客戶支持系統還是專門的多智能體應用程序，都值得考慮這個框架。

本教程將解釋AWS多智能體協調器的獨特之處，提供逐步指導以設置環境，並開發一個演示項目來實際體驗該框架。

什麼是AWS多智能體協調器？

AWS多智能體協調器是一個靈活且功能強大的框架，旨在管理AI智能體並促進複雜的多輪對話。其預構建組件能夠快速開發和部署，因此您可以專注於自己的應用程序，而無需從頭開始重建這些組件。

AWS多智能體協調器提供以下功能：

• 智能路由：動態識別每個查詢的最佳智能體。
• 流式和非流式響應：支持兩種智能體響應格式。
• 上下文管理：在多輪對話中管理連貫性和歷史記錄。
• 可擴展性：創建新的智能體或修改現有的智能體。
• 通用部署：可在AWS Lambda、本地環境和雲平台上運行。

該框架支持Python和TypeScript。

多智能體協調器的工作原理概述。 （來源）

上圖顯示，分類器會考慮可用的智能體、用戶提示和之前的對話歷史記錄，以選擇最適合用戶輸入的智能體。然後，智能體處理請求。工作流程簡單而有效。

設置AWS多智能體協調器

要快速設置環境，您可以按照文檔中的說明進行操作。

首先，創建一個新文件夾和一個新的Python環境來安裝所需的庫。

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

激活新的虛擬環境後，安裝庫

<code>pip install multi-agent-orchestrator</code>

接下來，需要配置AWS賬戶。如果您沒有AWS賬戶，請註冊一個免費賬戶以使用免費套餐。註冊後，下載AWS CLI。

AWS CLI也需要配置。有關詳細說明，請按照設置AWS CLI中的步驟操作，但您可以使用命令aws configure並提供AWS訪問密鑰ID和秘密訪問密鑰來採取更簡便的方法。您可以在儀錶盤中創建新用戶後獲取這些密鑰。

創建新用戶時提供的訪問密鑰。

準備好訪問密鑰後，運行aws configure並提供密鑰，選擇離您最近的區域名稱（完整列表在此提供），並將默認輸出格式設置為json。

如果您的CLI配置正確，運行命令aws sts get-caller-identity應該會顯示您的AWS賬戶ID、用戶ID和ARN。

現在，我們已經準備好AWS CLI，需要配置AWS Bedrock以訪問所需的LLM。 Amazon Bedrock是一項服務，允許您通過API測試和調用基礎模型（例如Llama 3.2或Claude 3.5 Sonnet）。多智能體協調器默認使用此服務調用兩個模型：

1. Claude 3.5 Sonnet作為分類器
2. Claude 3 Haiku作為智能體

當然，這些模型可以更改，但讓我們繼續使用默認選擇。

要訪問這兩個模型，請轉到Amazon Bedrock > 模型訪問並選擇“修改模型訪問”。選擇這兩個模型（以及您喜歡的其他模型）並填寫任何所需的信息。這部分如下所示：

完成請求後，模型將在1-2分鐘內可用。授予請求模型的訪問權限後，您應該會在其前面看到“已授予訪問權限”。

注意：您可能需要為已創建的用戶分配策略。如果您在文章的下一小節（測試您的設置）中遇到問題，可以測試一下。如果是這樣，請查看此頁面。總而言之，您需要授予已定義的用戶對AmazonBedrockFullAccess的訪問權限。

測試您的設置

要檢查前面所有步驟是否已正確設置，請使用以下代碼：

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

如果您可以提示並收到答案，則一切正常。

使用AWS多智能體協調器的演示項目

AWS多智能體協調器存儲庫提供了幾個TypeScript和Python示例項目。我們現在將編寫一個簡化的Python應用程序，該應用程序包含兩個智能體：Python開發人員智能體和ML專家智能體。

我們還將使用Chainlit（一個開源Python包）來為應用程序實現一個簡單的UI。首先，安裝必要的庫：

<code>pip install multi-agent-orchestrator</code>

我們使用下面的代碼作為我們的演示應用程序，但讓我們首先解釋一下：

1. 我們首先導入必要的庫。
2. 我們使用“anthropic.claude-3-haiku-20240307-v1:0”作為我們分類器的模型。當新的用戶輸入到達時，此分類器將選擇要使用的智能體。
3. 我們將創建的分類器傳遞給MultiAgentOrchestrator並定義一些配置。
4. BedrockLLMAgent類用於創建我們的智能體。為每個智能體提供名稱和說明。對於智能體，您可以選擇任何可訪問的模型，甚至可以使用Ollama在本地運行它們。設置streaming=True並將ChainlitAgentCallbacks()作為回調將使智能體返回流式響應而不是完整的響應。最後，我們將每個智能體添加到協調器中。
5. 設置user_session，並定義處理用戶和智能體消息的主要部分。

<code>mkdir test_multi_agent_orchestrator
cd test_multi_agent_orchestrator
python -m venv venv
source venv/bin/activate  # 在Windows上使用venv\Scripts\activate</code>

現在是運行應用程序的時候了。為此，首先運行chainlit run app.py -w .。您現在可以在瀏覽器中打開的新選項卡中測試您的應用程序。

如屏幕截圖所示，我們現在提供了一個UI來測試我們的應用程序並與智能體聊天。

請注意，由於第一個提示“法國的首都是什麼？”與我們的任何智能體都沒有關係，因此系統不會提供答案。這對於保持聊天的相關性並在使用這些模型時避免花費不必要的積分至關重要。但是，當提示與相關問題時，我們的機器學習專家智能體會發揮作用以給出答案，這要歸功於多智能體協調器的智能路由。

結論

在本博文中，我們介紹了最新的AWS多智能體協調器框架，重點介紹了其一些獨特的功能，概述了設置環境的步驟，探討了Amazon Bedrock提供的基礎模型，並實現了一個演示項目。

在撰寫本文時，該框架缺乏全面而詳細的文檔。要利用其他功能，例如內存和工具使用，您必須閱讀代碼庫並查看提供的示例項目。

密切關註生成式AI框架是明智之舉，可以跟上這個快節奏領域的步伐。 AWS多智能體協調器是在AWS服務的基礎設施上構建的一個有前景的選擇，其發展值得關注。

以上是AWS多機構編排：指南有示例的詳細內容。更多資訊請關注PHP中文網其他相關文章！