Exempel på funktionsutveckling: strukturerade RAG-program

Hämtningsförhöjd generation, eller RAG, är en av de vanligaste metoderna för att skapa generativa AI-program. Funktionsutveckling i Unity Catalog stöder strukturerade RAG-program med hjälp av onlinetabeller. Du skapar en onlinetabell för de strukturerade data som RAG-programmet behöver och är värd för dem på en funktion som betjänar slutpunkten. RAG-programmet använder funktionsserverslutpunkten för att leta upp relevanta data från onlinetabellen.

De vanliga stegen är följande:

  1. Skapa en funktion som betjänar slutpunkten.
  2. Skapa en LangChainTool som använder slutpunkten för att söka efter relevanta data.
  3. Använd verktyget i LangChain-agenten för att hämta relevanta data.
  4. Skapa en modell som betjänar slutpunkten som värd för LangChain-programmet.

Följande notebook-fil visar hur du använder Databricks onlinetabeller och funktionsserverslutpunkter för rag-program (augmented generation).

Onlinetabeller med demoanteckningsbok för RAG-program

Hämta notebook-fil