liteLLM - 一庫統一所有 LLM API

首頁 > AI

liteLLM - 一庫統一所有 LLM API

來源:匿名 釋出時間:2023-08-10 23:56

liteLLM 是一個整合化的人工智慧 API 庫,旨在簡化使用來自 OpenAI、Azure、Cohere、Anthropic、Replicate 和 Google 等多家公司的 LLM(語言模型)API。

該庫提供了一種統一的方式來呼叫所有 LLM APIs,使用 chatGPT 格式:completion(model, messages)。無論是哪家公司的 API,輸出和異常都得到了一致的處理。此外,liteLLM 還提供了日誌記錄和錯誤追蹤功能,方便使用者進行模型呼叫的監控和問題排查。

您可以在 liteLLM 的 GitHub 倉庫 獲取更多資訊。

上一篇:Taylor AI -... 下一篇:Vizard.ai -...
猜你喜歡
熱門閱讀
同類推薦