什麼是複合 AI 系統和 AI 代理程式?

Mosaic AI 代理程式架構可協助開發人員克服開發 AI 代理程式和複合 AI 系統的獨特挑戰。 了解什麼是讓 AI 應用程式成為複合 AI 系統AI 代理程式

複合式 AI 系統

複合 AI 系統是透過合併多個互動元件來處理 AI 工作的系統。 相反地,AI 模型只是統計模型,例如,可預測文字中下一個權杖的 Transformer。 複合 AI 系統由於其效能和彈性而成為 AI 應用程式中越來越常見的設計模式。

如需詳細資訊,請參閱從模型轉移至複合 AI 系統

什麼是 AI 代理程式?

業界仍在定義 AI 代理程式,但通常會將其理解為 AI 系統,其中模型會做出一些或所有規劃決策,而不是硬式編碼邏輯。 這些代理程式會使用大型語言模型 (LLM) 來做出決策並達成其目標。

許多 AI 代理程式應用程式由多個系統組成,因此可將它們視為複合 AI 系統。

代理程式是一個連續體,我們越是能自由提供模型來控制系統的行為,應用程式就越像代理程式。

AI 代理應用程式是複合 AI 系統的子集

什麼是工具?

AI 代理程式會使用工具來執行語言產生以外的動作,例如擷取結構化或非結構化資料、執行程式碼,或與遠端服務對話,例如傳送電子郵件或 Slack 訊息。

在 Databricks 上,您可以使用 Unity 目錄函式作為工具,以便輕鬆探索、治理及共用工具。 您也可以使用開放原始碼代理程式撰寫程式庫來定義工具,例如 LangChain。

在一般代理工作流程中,代理程式 LLM 會獲得工具的相關中繼資料,可用來判定工具的使用時機和使用方式。 因此,定義工具時,您必須確定工具、其參數及其傳回值都已妥善記載,讓代理程式 LLM 可以充分利用工具。

從 LLM 到 AI 代理程式

若要了解 AI 代理程式,考慮 AI 系統的演進會很有幫助。

  1. LLM:一開始,大型語言模型只會根據來自大量訓練資料集的知識回應提示。

LLM 回應使用者

  1. LLM + 工具鏈:然後,開發人員會新增硬式編碼工具來擴展 LLM 的功能。 例如,擷取擴增產生 (RAG) 擴展了 LLM 的知識庫,而 API 工具則允許 LLM 執行建立支援票證或傳送電子郵件等工作。

預先決定的工具鏈

  1. AI 代理程式:現在,AI 代理程式會根據他們對問題的了解,自主建立計畫並執行工作。 AI 代理程式仍然使用工具,但會由其決定要使用哪一個工具以及何時使用。 與複合 AI 系統相比,主要區別在於自主性和決策制定能力層級。

AI 代理程式可有理化計畫,並使用工具加以執行

從開發觀點來看,AI 應用程式 (無論是個別的 LLM、具有工具鏈的 LLM,還是完整的 AI 代理程式) 都面臨著類似的挑戰。 Mosaic AI 代理程式架構可協助開發人員管理所有複雜度層級的獨特建置挑戰和 AI 應用程式。

AI 代理程式的範例

以下是跨產業的 AI 代理程式的一些範例:

AI/BI:AI 支援的聊天機器人和儀表板接受自然語言提示,以對企業資料執行分析,並從其資料的完整生命週期中擷取深入解析。 AI/BI 代理程式會剖析要求、決定要哪些資料資源,以及如何溝通結果。 AI/BI 代理程式可在透過人類意見反應持續改善,為分析師提供驗證和精簡輸出內容的工具。

客戶服務中心:AI 支援的聊天機器人 (例如客戶服務中心平台使用的聊天機器人) 可與使用者互動、理解自然語言,並提供相關的回應或執行工作。 公司會使用 AI 聊天機器人,透過回答查詢、提供產品資訊,以及協助進行疑難排解,來進行客戶服務。

製造預測性維護:AI 代理程式不僅能預測設備故障,並對故障自主採取行動,還可以透過訂購替換件或排程維護來減少停機時間並提高生產力。

下一步

了解如何開發和評估 AI 代理程式:

實際操作 AI 代理程式教學課程: