首頁 後端開發 Python教學 AISuite:簡化跨多個 LLM 提供者的 GenAI 集成

AISuite:簡化跨多個 LLM 提供者的 GenAI 集成

Dec 18, 2024 am 07:26 AM

生成式人工智慧 (Gen AI) 正在憑藉其創造力、解決問題和自動化的潛力重塑產業。然而,由於 API 和配置分散,開發人員在整合來自不同提供者的大型語言模型 (LLM) 時經常面臨重大挑戰。互通性的缺乏使工作流程變得複雜,延長了開發時間,並阻礙了有效的 Gen AI 應用程式的創建。

為了解決這個問題,Andrew Ng 的團隊推出了 AISuite,這是一個開源 Python 庫,可以簡化 OpenAI、Anthropic 和 Ollama 等提供者之間的法學碩士整合。 AISuite 讓開發人員能夠使用簡單的「provider:model」字串(例如 openai:gpt-4o 或 anthropic:claude-3-5)在模型之間進行切換,因此無需進行大量程式碼重寫。透過提供統一的接口,AISuite 顯著降低了複雜性,加速了開發,並為構建多功能 Gen AI 應用程式開闢了新的可能性。

在本文中,我們將探討 AISuite 的工作原理、實際應用以及它在解決與不同法學碩士合作的挑戰方面的有效性。

入門

目錄

  • 什麼是AISuite
  • 為什麼AISuite很重要
  • 使用 AISuite 進行實驗
  • 建立聊天完成
  • 建立通用查詢函數

什麼是AISuite

AISuite 是由 Andrew Ng 團隊開發的開源 Python 程式庫,用於簡化來自多個提供者的大型語言模型 (LLM) 的整合和管理。它抽象化了使用不同 API、配置和資料格式的複雜性,為開發人員提供了一個統一的框架來簡化他們的工作流程。

AISuite的主要特點:

  • 簡單的介面:AISuite 提供了一個簡單且一致的介面來管理各種 LLM。開發者只需幾行程式碼就可以將模型整合到他們的應用程式中,大大降低了 Gen AI 專案的進入門檻。
  • 統一框架:透過抽象化多個API之間的差異,AISuite無縫處理不同類型的請求和回應。這減少了開發開銷並加速了原型設計和部署。
  • 輕鬆模型切換:使用AISuite,模型之間的切換就像更改程式碼中的單一字串一樣簡單。例如,開發人員可以指定「provider:model」組合,如 openai:gpt-4o 或 anthropic:claude-3-5,而無需重寫應用程式的重要部分。
  • 可擴充性:AISuite 旨在適應不斷發展的 Gen AI 環境。開發人員可以在新模型和提供者可用時添加它們,確保應用程式保持最新的人工智慧功能。

為什麼AISuite很重要?

AISuite 解決了 Gen AI 生態系統中的關鍵痛點:不同供應商的法學碩士之間缺乏互通性。透過提供統一的接口,它簡化了開發過程,節省了時間並降低了成本。這種靈活性允許團隊透過為特定任務選擇最佳模型來優化效能。

早期基準測試和社群回饋凸顯了 AISuite 減少多模型應用程式整合時間、提高開發人員效率和生產力的能力。隨著 Gen AI 生態系統的發展,AISuite 降低了實驗、建構和擴展人工智慧驅動的解決方案的障礙。

試試 AISuite

讓我們透過安裝必要的依賴項來開始探索 AISuite。

安裝依賴項

  • 透過執行以下命令來建立並啟動虛擬環境。
  • 使用 pip 安裝 aisuite、openai 和 python-dotenv 函式庫。

AISuite: Simplifying GenAI integration across multiple LLM providers

設定環境和憑證

建立一個名為 .env 的檔案。該文件將儲存您的環境變量,包括 OpenAI 金鑰。

  • 開啟 .env 檔案並新增以下程式碼來指定您的 OpenAI API 金鑰:
  • 將 API 金鑰加入環境變數。

初始化AISuite客戶端

建立 AISuite 用戶端實例,實現與多個 LLM 的標準化互動。

查詢型號

使用者可以使用AISuite查詢模型,如下。

  • model="openai:gpt-4o":指定模型的型別和版本。
  • messages=messages:將先前定義的提示傳送到模型。
  • 溫度=0.75:調整反應的隨機性。較高的數值鼓勵創造性產出,而較低的數值會產生更具確定性的結果。
  • response.choices[0].message.content:從模型的回應中檢索文字內容。

建立聊天完成

讓我們使用 OpenAI 模型建立聊天完成程式碼。

  • 使用以下命令運行應用程式。

您將得到以下輸出,

AISuite: Simplifying GenAI integration across multiple LLM providers

建立用於查詢的通用函數

與其編寫單獨的程式碼來呼叫不同的模型,不如建立一個通用函數來消除程式碼重複並提高效率。

ask 函數是一個可重複使用的實用程序,設計用於向 AI 模型發送查詢。它接受以下參數:

  • 訊息:使用者的查詢或提示。 sys_message(可選):指導模型行為的系統層級指令。
  • model:指定要使用的AI模型。 此函數處理輸入參數,將其發送到指定模型,並傳回 AI 的回應,使其成為與各種模型互動的多功能工具。

以下是使用通用詢問函數與 OpenAI 模型互動的完整程式碼。

運行程式碼將產生以下輸出。

AISuite: Simplifying GenAI integration across multiple LLM providers

與多個 API 交互

讓我們透過以下程式碼探索使用 AISuite 與多個模型進行互動。

與 Anthropic 或 Groq 等供應商互動時可能會遇到挑戰。希望 AISuite 團隊正在積極解決這些問題,以確保無縫整合和功能。

AISuite 是一款用於瀏覽大型語言模型的強大工具。它使用戶能夠利用多個人工智慧提供者的優勢,同時簡化開發並鼓勵創新。憑藉其開源基礎和直覺的設計,AISuite 成為現代人工智慧應用程式開發的基石。

感謝您閱讀這篇文章! !

感謝 Gowri M Bhatt 審閱內容。

如果您喜歡這篇文章,請點擊心形按鈕♥並分享以幫助其他人找到它!

本教學的完整原始碼可以在這裡找到,

GitHub - codemaker2015/aisuite-examples : github.com

資源

GitHub - andrewyng/aisuite:與多個生成式 AI 提供者的簡單、統一的介面:github.com

以上是AISuite:簡化跨多個 LLM 提供者的 GenAI 集成的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

<🎜>:泡泡膠模擬器無窮大 - 如何獲取和使用皇家鑰匙
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
北端:融合系統,解釋
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Mandragora:巫婆樹的耳語 - 如何解鎖抓鉤
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1671
14
CakePHP 教程
1428
52
Laravel 教程
1331
25
PHP教程
1276
29
C# 教程
1256
24
Python與C:學習曲線和易用性 Python與C:學習曲線和易用性 Apr 19, 2025 am 12:20 AM

Python更易學且易用,C 則更強大但複雜。 1.Python語法簡潔,適合初學者,動態類型和自動內存管理使其易用,但可能導致運行時錯誤。 2.C 提供低級控制和高級特性,適合高性能應用,但學習門檻高,需手動管理內存和類型安全。

Python和時間:充分利用您的學習時間 Python和時間:充分利用您的學習時間 Apr 14, 2025 am 12:02 AM

要在有限的時間內最大化學習Python的效率,可以使用Python的datetime、time和schedule模塊。 1.datetime模塊用於記錄和規劃學習時間。 2.time模塊幫助設置學習和休息時間。 3.schedule模塊自動化安排每週學習任務。

Python vs.C:探索性能和效率 Python vs.C:探索性能和效率 Apr 18, 2025 am 12:20 AM

Python在開發效率上優於C ,但C 在執行性能上更高。 1.Python的簡潔語法和豐富庫提高開發效率。 2.C 的編譯型特性和硬件控制提升執行性能。選擇時需根據項目需求權衡開發速度與執行效率。

學習Python:2小時的每日學習是否足夠? 學習Python:2小時的每日學習是否足夠? Apr 18, 2025 am 12:22 AM

每天學習Python兩個小時是否足夠?這取決於你的目標和學習方法。 1)制定清晰的學習計劃,2)選擇合適的學習資源和方法,3)動手實踐和復習鞏固,可以在這段時間內逐步掌握Python的基本知識和高級功能。

Python vs. C:了解關鍵差異 Python vs. C:了解關鍵差異 Apr 21, 2025 am 12:18 AM

Python和C 各有優勢,選擇應基於項目需求。 1)Python適合快速開發和數據處理,因其簡潔語法和動態類型。 2)C 適用於高性能和系統編程,因其靜態類型和手動內存管理。

Python標準庫的哪一部分是:列表或數組? Python標準庫的哪一部分是:列表或數組? Apr 27, 2025 am 12:03 AM

pythonlistsarepartofthestAndArdLibrary,herilearRaysarenot.listsarebuilt-In,多功能,和Rused ForStoringCollections,而EasaraySaraySaraySaraysaraySaraySaraysaraySaraysarrayModuleandleandleandlesscommonlyusedDduetolimitedFunctionalityFunctionalityFunctionality。

Python:自動化,腳本和任務管理 Python:自動化,腳本和任務管理 Apr 16, 2025 am 12:14 AM

Python在自動化、腳本編寫和任務管理中表現出色。 1)自動化:通過標準庫如os、shutil實現文件備份。 2)腳本編寫:使用psutil庫監控系統資源。 3)任務管理:利用schedule庫調度任務。 Python的易用性和豐富庫支持使其在這些領域中成為首選工具。

科學計算的Python:詳細的外觀 科學計算的Python:詳細的外觀 Apr 19, 2025 am 12:15 AM

Python在科學計算中的應用包括數據分析、機器學習、數值模擬和可視化。 1.Numpy提供高效的多維數組和數學函數。 2.SciPy擴展Numpy功能,提供優化和線性代數工具。 3.Pandas用於數據處理和分析。 4.Matplotlib用於生成各種圖表和可視化結果。

See all articles