Tutorial: Bereitstellen einer Web-App für Unternehmenschats

In diesem Artikel stellen Sie eine Web-App für Unternehmenschats bereit, die Ihre eigenen Daten mit einem großen Sprachmodell in KI Studio verwendet.

Ihre Datenquelle wird verwendet, um das Modell mit bestimmten Daten zu grounden. Grounding bedeutet, dass das Modell Ihre Daten verwendet, um den Kontext Ihrer Frage zu verstehen. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrer ursprünglichen Datenquelle gespeichert.

Die folgenden Schritte werden in diesem Tutorial beschrieben:

1. Bereitstellen und Testen eines Chatmodells ohne Ihre Daten.
2. Hinzufügen Ihrer Daten.
3. Testen des Modells mit Ihren Daten.
4. Stellen Sie Ihre Web-App bereit.

Voraussetzungen

• Azure-Abonnement – kostenloses Abonnement erstellen.

• Ein KI Studio-Hub, ein Projekt und ein bereitgestelltes Azure OpenAI-Chatmodell Schließen Sie den KI Studio-Playground-Schnellstart ab, um diese Ressourcen zu erstellen, sofern noch nicht geschehen.

• Eine Verbindung mit dem Dienst „Azure KI-Suche“, um die exemplarischen Produkt- und Kundendaten zu indizieren.

• Sie benötigen eine lokale Kopie von Produktdaten. Das Repository „Azure-Samples/rag-data-openai-python“ auf GitHub enthält Beispielinformationen für Einzelhandelsprodukte, die für das Szenario in diesem Tutorial relevant sind. Insbesondere enthält die Datei product_info_11.md Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind. Laden Sie die exemplarischen Einzelhandelsproduktdaten für Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

• Der Microsoft.Web-Ressourcenanbieter muss für das ausgewählte Abonnement registriert sein, damit Sie Bereitstellungen in eine Web-App durchführen können.

Hinzufügen der Daten und erneutes Testen des Chatmodells

Im KI Studio-Playground-Schnellstart (eine Voraussetzung für dieses Tutorial) können Sie beobachten, wie Ihr Modell ohne Ihre Daten reagiert. Jetzt fügen Sie dem Modell Ihre Daten hinzu, damit es Fragen zu Ihren Produkten beantworten kann.

Um diesen Abschnitt abzuschließen, benötigen Sie eine lokale Kopie der Produktdaten. Das Repository „Azure-Samples/rag-data-openai-python“ auf GitHub enthält Beispielinformationen für Einzelhandelsprodukte, die für das Szenario in diesem Tutorial relevant sind. Insbesondere enthält die Datei product_info_11.md Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind. Laden Sie die exemplarischen Einzelhandelsproduktdaten für Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

Führen Sie die folgenden Schritte aus, um Ihre Daten zum Chat-Playground hinzuzufügen, damit der Assistent Fragen zu Ihren Produkten beantworten kann. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrem Azure-Abonnement gespeichert.

1. Navigieren Sie zu Ihrem Projekt in Azure KI Studio.

2. Wählen Sie im linken Bereich Playgrounds>Chat aus.

3. Wählen Sie ihr bereitgestelltes Chatmodell aus der Dropdownliste Bereitstellung aus.

   

4. Wählen Sie auf der linken Seite des Chat-Playgrounds Daten hinzufügen>+ Neue Datenquelle hinzufügen aus.

   

5. Wählen Sie im Dropdownfeld Datenquelle die Option Dateien hochladen aus.

   

6. Wählen Sie Hochladen>Dateien hochladen aus, um Ihre lokalen Dateien zu durchsuchen.

7. Wählen Sie die Dateien aus, die Sie hochladen möchten. Wählen Sie die Produktinformationsdateien aus, die Sie heruntergeladen oder zuvor erstellt haben. Fügen Sie jetzt alle Dateien hinzu. Sie können später in derselben Playground-Sitzung keine weiteren Dateien hinzufügen.

8. Wählen Sie Hochladen aus, um die Datei in Ihr Azure Blob Storage-Konto hochzuladen. Wählen Sie Weiteraus.

   

9. Wählen Sie einen Azure KI-Suchdienst aus. In diesem Beispiel wählen wir Andere Azure KI-Suche-Ressource verbinden aus der Dropdownliste Azure KI-Suchdienst aus. Wenn Sie keine Suchressource haben, können Sie eine erstellen, indem Sie Neue Azure KI-Suche-Ressource erstellen auswählen. Kehren Sie dann zu diesem Schritt zurück, um sie zu verbinden und auszuwählen.

   

10. Suchen Sie nach Ihrem Azure KI-Suchdienst, und wählen Sie Verbindung hinzufügen aus.

    

11. Geben Sie für den Indexnamen den Text Produktinformationen ein, und wählen Sie Weiter aus.

12. Deaktivieren Sie auf der Seite Sucheinstellungen unter Vektoreinstellungen das Kontrollkästchen Vektorsuche zu dieser Suchressource hinzufügen. Diese Einstellung bestimmt, wie das Modell auf Anforderungen reagiert. Wählen Sie Weiteraus.

    Hinweis

    Wenn Sie die Vektorsuche hinzufügen, stehen hier weitere Optionen mit zusätzlichen Kosten zur Verfügung.

13. Überprüfen Sie die Einstellungen, und wählen Sie Erstellen aus.

14. Im Playground können Sie sehen, dass die Erfassung Ihrer Daten ausgeführt wird. Dieser Prozess kann einige Minuten dauern. Warten Sie, bevor Sie fortfahren, bis die Datenquelle und der Indexname anstelle des Status angezeigt werden.

    

15. Sie können jetzt mit dem Modell chatten, ihm dieselbe Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe“), und dieses Mal verwendet es Informationen aus Ihren Daten, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

Bereitstellen Ihrer Web-App

Sobald Sie mit der Erfahrung in Azure KI Studio zufrieden sind, können Sie das Modell als eigenständige Webanwendung bereitstellen.

Navigieren Sie im Azure-Portal zu Ihrer Ressourcengruppe.

In diesem Tutorial wird Ihre Web-App in derselben Ressourcengruppe wie Ihr KI Studio-Hub bereitgestellt. Später konfigurieren Sie die Authentifizierung für die Web-App im Azure-Portal.

Führen Sie die folgenden Schritte aus, um von Azure KI Studio zu Ihrer Ressourcengruppe im Azure-Portal zu navigieren:

1. Navigieren Sie zu Ihrem Projekt in Azure KI Studio. Wählen Sie dann im linken Bereich Einstellungen aus.

2. Wählen Sie den Namen der Ressourcengruppe aus, um die Ressourcengruppe im Azure-Portal zu öffnen. In diesem Beispiel trägt die Ressourcengruppe den Namen rg-contoso.

   

3. Sie sollten sich nun im Azure-Portal befinden und den Inhalt der Ressourcengruppe anzeigen, in der Sie den Hub bereitgestellt haben. Lassen Sie diese Seite auf einer Browserregisterkarte geöffnet. Sie wird später noch benötigt.

Bereitstellen der Web-App

Die Veröffentlichung erstellt einen Azure App Service in Ihrem Abonnement. Je nach dem von Ihnen gewählten Preisplan können Kosten anfallen. Wenn Sie mit Ihrer App fertig sind, können Sie sie aus dem Azure-Portal löschen.

So stellen Sie die Web-App bereit:

1. Führen Sie die Schritte im vorherigen Abschnitt aus, um dem Playground Ihre Daten hinzuzufügen.

   Hinweis

   Sie können eine Web-App mit oder ohne Ihre eigenen Daten bereitstellen, aber mindestens benötigen Sie ein bereitgestelltes Modell, wie unter Schnellstart: KI Studio-Playground beschrieben.

2. Wählen Sie die Option In Web-App bereitstellen aus.

   

3. Geben Sie auf der Seite In einer Web App bereitstellen die folgenden Details ein:

   • Geben Sie unter Name einen eindeutigen Namen für Ihre Web-App ein.
   • Abonnement: Ihr Azure-Abonnement.
   • Ressourcengruppe: Wählen Sie eine Ressourcengruppe aus, in der die Web-App bereitgestellt werden soll. Sie können dieselbe Ressourcengruppe wie der Hub verwenden.
   • Speicherort: Wählen Sie einen Speicherort aus, an dem die Web-App bereitgestellt werden soll. Sie können denselben Speicherort wie der Hub verwenden.
   • Tarif: Wählen Sie einen Tarif für die Web-App aus.
   • Aktivieren des Chatverlaufs in der Web-App: Für das Tutorial ist das Feld Chatverlauf nicht ausgewählt. Durch Aktivieren des Features erhalten die Benutzer*innen Zugriff auf ihre jeweiligen vorherigen Abfragen und Antworten. Weitere Informationen finden Sie in Chatverlaufshinweisen.

4. Klicken Sie auf Bereitstellen.

5. Warten Sie, bis die App bereitgestellt wird, was einige Minuten dauern kann.

   

6. Wenn sie bereit ist, ist die Schaltfläche Start auf der Symbolleiste aktiviert. Starten Sie die App jedoch noch nicht, und schließen Sie die Seite „Chat-Playground“ nicht. Sie kehren später dorthin zurück.

Konfigurieren der Web-App-Authentifizierung

Standardmäßig ist die App nur für Sie zugänglich. In diesem Tutorial fügen Sie eine Authentifizierung hinzu, um den Zugriff auf die App auf Mitglieder Ihres Azure-Mandanten einzuschränken. Benutzer werden aufgefordert, sich mit ihrem Microsoft Entra-Konto anzumelden, um auf Ihre App zugreifen zu können. Sie können einen ähnlichen Prozess ausführen, um bei Bedarf einen anderen Identitätsanbieter hinzuzufügen. Die App verwendet die Anmeldeinformationen des Benutzers nur, um zu überprüfen, ob er Mitglied Ihres Mandanten ist.

1. Kehren Sie zur Browserregisterkarte zurück, die das Azure-Portal enthält (oder öffnen Sie das Azure-Portal auf einer neuen Browserregisterkarte erneut), und zeigen Sie den Inhalt der Ressourcengruppe an, in der Sie den Hub und die Web-App bereitgestellt haben (möglicherweise müssen Sie die Ansicht aktualisieren, um die Web-App zu sehen).

2. Wählen Sie die App Service-Ressource aus der Liste der Ressourcen in der Ressourcengruppe aus.

3. Wählen Sie im reduzierbaren linken Menü unter Einstellungen die Option Authentifizierung aus.

   

4. Fügen Sie einen Identitätsanbieter mit den folgenden Einstellungen hinzu:

   • Identitätsanbieter: Wählen Sie Microsoft als Identitätsanbieter aus. Die Standardeinstellungen auf dieser Seite beschränken die App nur auf Ihren Mandanten, sodass Sie hier nichts ändern müssen.
   • Mandantentyp: Mitarbeiter
   • App-Registrierung: Erstellen einer neuen App-Registrierung
   • Name: Der Name Ihres Web App-Diensts
   • Unterstützte Kontotypen: Aktueller Mandant – Einzelner Mandant
   • Zugriff einschränken: Erfordert Authentifizierung
   • Nicht authentifizierte Anforderungen: HTTP 302 Gefundene Umleitung – empfohlen für Websites

Web-App verwenden

Sie haben es fast geschafft! Jetzt können Sie die Web-App testen.

1. Warten Sie 10 Minuten, bis die Authentifizierungseinstellungen wirksam werden.

2. Kehren Sie zur Browserregisterkarte zurück, die die Seite „Chat-Playground“ in Azure KI Studio enthält.

3. Wählen Sie Start aus, um die bereitgestellte Web-App zu starten. Wenn Sie dazu aufgefordert werden, akzeptieren Sie die Berechtigungsanforderung.

   Wenn die Authentifizierungseinstellungen noch nicht wirksam geworden sind, schließen Sie die Browserregisterkarte für Ihre Web-App, und kehren Sie zur Seite „Chat-Playground“ in Azure KI Studio zurück. Warten Sie dann etwas länger und versuchen Sie es erneut.

4. In Ihrer Web-App können Sie die gleiche Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe?“), und dieses Mal werden Informationen aus Ihren Daten verwendet, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

   

Bereinigen von Ressourcen

Um unnötige Azure-Kosten zu vermeiden, sollten Sie die in diesem Schnellstart erstellten Ressourcen löschen, wenn sie nicht mehr benötigt werden. Zum Verwalten von Ressourcen können Sie das Azure-Portal verwenden.

Hinweise

Chatverlauf

Durch das Chatverlauf-Feature erhalten die Benutzer Zugriff auf ihre jeweiligen vorherigen Abfragen und Antworten.

Sie können den Chatverlauf aktivieren, wenn Sie die Web-App bereitstellen. Aktivieren Sie das Kontrollkästchen Chatverlauf in der Web-App aktivieren.

Nachdem Sie den Chatverlauf aktiviert haben, können Ihre Benutzer ihn in der oberen rechten Ecke der App anzeigen und ausblenden. Wenn sie den Verlauf anzeigen, können sie Unterhaltungen umbenennen oder löschen. Wenn sie bei der App angemeldet sind, werden Unterhaltungen automatisch von der neuesten zur ältesten sortiert und basierend auf der ersten Abfrage in der Unterhaltung benannt.

Wenn Sie die Cosmos DB-Ressource löschen, aber die Option „Chatverlauf“ in Studio aktiviert lassen, werden Ihre Benutzer über einen Verbindungsfehler benachrichtigt, können die Web-App jedoch weiterhin ohne Zugriff auf den Chatverlauf verwenden.

Zugehöriger Inhalt

• Erste Schritte beim Erstellen einer Chat-App mit dem prompt flow-SDK
• Erstellen Sie Ihren eigenen Copilot mit dem prompt flow-SDK..