Muster in LUIS-Apps

Muster dienen zur Verbesserung der Genauigkeit, wenn sich mehrere Äußerungen stark ähneln. Ein Muster ermöglicht es Ihnen, größere Genauigkeit für eine Absicht zu erreichen, ohne verschiedene weitere Äußerungen anzugeben.

Muster als Weg bei wenig vertrauenswürdigen Absichten

Stellen Sie sich eine Personalwesen-App vor, die das Organigramm bezogen auf einen Mitarbeiter auswertet. Bei Angabe des Namens und der Beziehungen eines Mitarbeiters gibt LUIS die beteiligten Mitarbeiter zurück. Sehen wir uns einen Mitarbeiter Tom mit einer Vorgesetzten Alice und einem Team von ihm Unterstellten mit den Namen Michael, Rebekka und Karl an.

Wenn einer App zwischen 10 und 20 Äußerungen mit unterschiedlicher Satzlänge, verschiedener Wortstellung und sogar verschiedenen Wörtern (Synonymen von „Untergebener“, „Verwalten“, „Vorgesetzter“) vorliegen, gibt LUIS möglicherweise eine geringe Zuverlässigkeitsbewertung zurück. Erstellen Sie ein Muster, um LUIS zu helfen, die Bedeutung der Wortstellung zu erfassen.

Muster lösen Probleme in den folgenden Situationen:

• die Absichtsbewertung ist gering
• die richtige Absicht hat nicht die höchste Punktzahl, kommt der höchsten Punktzahl aber sehr nahe

Muster stellen eine Garantie für Absicht dar

Muster verwenden eine Kombination von Vorhersagetechniken. Das Festlegen einer Absicht für eine Vorlagenäußerung in einem Muster stellt keine Garantie für die Absichtsvorhersage dar, liefert aber ein starkes Signal.

Muster verbessern nicht die Erkennung von Machine Learning-Entitäten.

Ein Muster ist in erster Linie zur Unterstützung der Vorhersage bei Absichten und Rollen vorgesehen. Die Entität pattern.any wird zum Extrahieren von Freiformentitäten verwendet. Zwar verwenden Muster Entitäten, ein Muster hilft jedoch nicht beim Erkennen einer Machine Learning-Entität.

Erwarten Sie keine verbesserte Vorhersage von Entitäten, wenn Sie mehrere Äußerungen in einem einzelnen Muster zusammenfassen. Damit einfache Entitäten von Ihrer App verwendet werden können, müssen Sie Äußerungen hinzufügen oder Listenentitäten verwenden.

Muster verwenden Entitätsrollen

Wenn zwei oder mehr Entitäten in einem Muster kontextverwandt sind, setzen Muster Entitätsrollen ein, um Kontextinformationen zu den Entitäten zu extrahieren.

Vorhersagebewertungen mit und ohne Muster

Eine ausreichende Anzahl von Beispieläußerungen vorausgesetzt, ist LUIS imstande, die Vorhersagezuverlässigkeit ohne Muster zu steigern. Mithilfe von Mustern lässt sich die Zuverlässigkeitsbewertung steigern, ohne so viele Äußerungen zur Verfügung stellen zu müssen.

Musterabgleich

Ein Musterabgleich erfolgt so, dass zuerst die Entitäten innerhalb des Musters erkannt und dann der Rest der Wörter und die Wortstellung bewertet werden. Entitäten sind im Muster erforderlich, damit ein Musterabgleich erfolgen kann. Das Muster wird auf Tokenebene, nicht auf Zeichenebene angewandt.

Entität „Pattern.any“

Mit der Entität „pattern.any“ können Sie Freiformdaten finden, bei denen die Formulierung der Entität erschwert, das Ende der Entität vom Rest der Äußerung zu unterscheiden.

Stellen Sie sich beispielsweise eine Personalwesen-App vor, die Mitarbeitern dabei hilft, Unternehmensdokumente zu finden. Diese App muss möglicherweise die folgenden Beispieläußerungen verstehen:

• „Wo ist HRF-123456?“
• „Wer hat HRF-123234 erstellt?“
• „Ist HRF-456098 auf Französisch veröffentlicht?“

Jedes Dokument verfügt jedoch sowohl über einen formatierten Namen (in der obigen Liste verwendet) als auch über einen für Menschen lesbaren Namen, z. B. „Request relocation from employee new to the company 2018 version 5“.

Äußerungen mit dem für Menschen lesbaren Namen können wie folgt aussehen:

• „Wo ist Request relocation from employee new to the company 2018 version 5?“
• „Wer hat Request relocation from employee new to the company 2018 version 5 erstellt?“
• „Wurde Request relocation from employee new to the company 2018 version 5 auf Französisch veröffentlicht?“

Die Äußerungen enthalten Wörter, die es LUIS erschweren, das Ende von Entitäten zu erkennen. Mit einer Pattern.any-Entität in einem Muster können Sie den Anfang und das Ende des Dokumentnamens angeben, damit LUIS diesen ordnungsgemäß extrahiert. Verwenden Sie beispielsweise die folgenden Vorlagenäußerungen:

• Wo ist {FormName}[?]
• Wer hat {FormName} erstellt[?]
• Wurde {FormName} auf Französisch veröffentlicht[?]

Bewährte Methoden für Muster:

Fügen Sie in späteren Iterationen Muster hinzu

Sie sollten verstehen, wie sich die App verhält, bevor Sie Muster hinzufügen, da Muster stärker gewichtet werden als Beispieläußerungen und die Zuverlässigkeit verzerren.

Sobald Sie verstehen, wie sich Ihre App verhält, fügen Sie Muster hinzu, sofern sie für Ihre App relevant sind. Sie müssen sie nicht jedes Mal hinzufügen, wenn Sie die Entwurfsschritte der App durchgehen.

Es ist nicht schädlich, sie am Anfang der Modellentwicklung hinzuzufügen. Es ist aber einfacher, festzustellen, welchen Einfluss jedes Muster auf das Modell hat, nachdem das Modell mit Äußerungen getestet wurde.

Fügen Sie nicht viele Muster hinzu.

Fügen Sie nicht zu viele Muster hinzu. LUIS ist dafür vorgesehen, mit wenigen Beispielen schnell zu lernen. Überlasten Sie das System nicht unnötigerweise.

Funktionen

Beim maschinellen Lernen ist ein Feature ein eindeutiges Merkmal oder Attribut der Daten, die Ihr System untersucht oder durch die es lernt.

Features des maschinellen Lernens liefern LUIS wichtige Hinweise dazu, wo nach Informationen gesucht werden soll, die ein Konzept von anderen unterscheiden. Hierbei handelt es sich um Hinweise, die von LUIS genutzt werden können, nicht um feste Regeln. LUIS verwendet diese Hinweise zusammen mit den Bezeichnungen, um Daten zu finden.

Ein Feature lässt sich als Funktion beschreiben, z. B. f(x) = y. In einer Beispieläußerung informiert das Feature darüber, wo nach dem unterscheidenden Merkmal zu suchen ist. Verwenden Sie diese Informationen, um Ihr Schema zu erstellen.

Typen von Features

Features sind ein erforderlicher Teil Ihres Schemaentwurfs. LUIS unterstützt als Features sowohl Ausdruckslisten als auch Modelle:

• Feature „Ausdrucksliste“
• Modell (Absicht oder Entität) als Feature

Auffinden von Features in Beispieläußerungen

Da LUIS eine sprachbasierte Anwendung ist, sind die Features textbasiert. Wählen Sie Text aus, der das Merkmal anzeigt, das Sie unterscheiden möchten. Für LUIS ist die kleinste Einheit das Token. In der Linguistik ist ein Token eine zusammenhängende Abfolge von Buchstaben und Ziffern ohne Leerzeichen oder Satzzeichen.

Da Leerzeichen und Interpunktionszeichen keine Token sind, konzentrieren Sie sich auf die Texthinweise, die Sie als Features verwenden können. Denken Sie daran, Variationen von Wörtern aufzunehmen, wie beispielsweise:

• Pluralformen
• Zeitformen von Verben
• Abkürzungen
• Verschiedene Schreibweisen, auch falsche Schreibungen

Ermitteln Sie, ob für den Text Folgendes gelten muss, weil er ein Merkmal unterscheidet:

• Exakte Übereinstimmung mit einem Wort oder Ausdruck: Erwägen Sie das Hinzufügen einer regulären Ausdrucksentität oder einer Listenentität als Feature zu der Entität oder Absicht.
• Übereinstimmung mit einem bekannten Konzept wie Datumsangaben, Uhrzeiten oder Namen von Personen: Verwenden Sie eine vorgefertigte Entität als Feature für die Entität oder Absicht.
• Lernen neuer Beispiele im Lauf der Zeit: Verwenden Sie eine Ausdrucksliste mit einigen Beispielen des Konzepts als Feature für die Entität oder Absicht.

Erstellen einer Liste von Ausdrücken für ein Konzept

Eine Ausdrucksliste ist eine Liste mit Wörtern oder Ausdrücken, die ein Konzept beschreiben. Eine Ausdrucksliste wird auf Tokenebene als Übereinstimmung ohne Beachtung der Groß- und Kleinschreibung angewendet.

Beim Hinzufügen einer Ausdrucksliste können Sie das Feature auf global festlegen. Ein globales Feature gilt für die gesamte App.

Wann Sie Ausdruckslisten verwenden

Verwenden Sie eine Ausdrucksliste, wenn Ihre LUIS-App verallgemeinern und neue Elemente für das Konzept identifizieren soll. Ausdruckslisten sind wie ein fachgebietsspezifischer Wortschatz. Sie verbessern das Verständnis von Absichten und Entitäten.

Verwenden von Ausdruckslisten

Bei einer Ausdrucksliste berücksichtigt LUIS den Kontext und verallgemeinert, um Elemente zu identifizieren, die einander ähnlich sind, aber keine genaue textliche Übereinstimmung darstellen. Um eine Ausdrucksliste zu verwenden, führen Sie folgende Schritte aus:

1. Beginnen Sie mit einer Entität des maschinellen Lernens:
2. Fügen Sie Beispieläußerungen hinzu.
3. Bezeichnen Sie diese mit einer Entität des maschinellen Lernens.
4. Fügen Sie eine Ausdrucksliste hinzu:
5. Fügen Sie Wörter mit ähnlicher Bedeutung hinzu. Fügen Sie nicht jedes denkbare Wort oder jeden denkbaren Ausdruck hinzu. Fügen Sie immer nur einige Wörter oder Ausdrücke hinzu. Dann trainieren Sie die App erneut und veröffentlichen sie.
6. Überprüfen Sie das Ergebnis, und fügen Sie vorgeschlagene Wörter hinzu.

Typisches Szenario für eine Ausdrucksliste

Ein typisches Szenario für eine Ausdrucksliste ist die Verstärkung von Wörtern, die sich auf ein bestimmtes Thema beziehen.

Medizinische Fachbegriffe sind ein gutes Beispiel für Wörter, für die zum Verstärken der Signifikanz ggf. eine Ausdrucksliste benötigt wird. Die Begriffe können eine bestimmte physikalische, chemische, therapeutische oder abstrakte Bedeutung haben. Ohne Verwendung einer Ausdrucksliste weiß LUIS nicht, dass die Begriffe für Ihren Themenbereich wichtig sind.

So extrahieren Sie beispielsweise die medizinischen Fachbegriffe:

1. Erstellen Sie Beispieläußerungen, und bezeichnen Sie die medizinischen Begriffe in diesen Äußerungen.
2. Erstellen Sie eine Ausdrucksliste mit Beispielen für die Begriffe innerhalb des Themenbereichs. Diese Ausdrucksliste sollte den von Ihnen bezeichneten eigentlichen Begriff und andere Begriffe enthalten, mit denen dasselbe Konzept beschrieben wird.
3. Fügen Sie die Ausdrucksliste der Entität oder untergeordneten Entität hinzu, von der das in der Ausdrucksliste verwendete Konzept extrahiert wird. Das häufigste Szenario ist eine Komponente (untergeordnetes Element) einer Machine Learning-Entität. Wenn die Ausdrucksliste übergreifend auf alle Absichten bzw. Entitäten angewendet werden soll, sollten Sie sie als globale Ausdrucksliste kennzeichnen. Das enabledForAllModels-Flag steuert diesen Modellbereich in der API.

Tokenübereinstimmungen für eine Ausdrucksliste

Eine Ausdrucksliste wird immer auf Tokenebene angewendet. Die folgende Tabelle zeigt, wie eine Ausdrucksliste, die das Wort Anne enthält, auf Variationen derselben Zeichen in dieser Reihenfolge angewendet wird.

Ein Modell als Feature dient als Unterstützung für ein anderes Modell

Sie können ein Modell (Absicht oder Entität) einem anderen Modell (Absicht oder Entität) als Feature hinzufügen. Indem Sie eine vorhandene Absicht oder Entität als Feature hinzufügen, erstellen Sie ein klar definiertes Konzept mit bezeichneten Beispielen.

Beim Hinzufügen eines Modells als Feature können Sie das Feature wie folgt festlegen:

• Erforderlich : Es muss ein erforderliches Feature gefunden werden, damit das Modell vom Vorhersageendpunkt zurückgegeben wird.
• Global . Ein globales Feature gilt für die gesamte App.

Verwenden einer Entität als Feature für eine Absicht

Fügen Sie eine Entität einer Absicht als Feature hinzu, wenn die Erkennung dieser Entität für die Absicht wichtig ist.

Wenn die Absicht beispielsweise das Buchen eines Flugs (BookFlight) ist und die Entität die Ticketinformationen sind (z. B. Sitzplatznummer, Abflugort und Ankunftsort), würde die Ermittlung der Entität mit den Ticketinformationen der Vorhersage der Flugbuchungsabsicht (BookFlight) ein erheblich höheres Gewicht verleihen.

Verwenden einer Entität als Feature für eine andere Entität

Eine Entität (A) sollte einer anderen Entität (B) als Feature hinzugefügt werden, wenn die Erkennung dieser Entität (A) für die Vorhersage von Entität (B) wichtig ist.

Wenn eine Entität für Lieferadressen beispielsweise in einer untergeordnete Anschriftenentität enthalten ist, verleiht die Ermittlung der untergeordneten Anschriftenentität der Vorhersage der Lieferadressenentität ein erheblich höheres Gewicht.

• Lieferadresse (Entität des maschinellen Lernens):
  • Hausnummer (untergeordnete Entität)
  • Anschrift (untergeordnete Entität)
  • Ort (untergeordnete Entität)
  • Bundesland oder Kanton (untergeordnete Entität)
  • Länder/Regionen (untergeordnete Entität)
  • Postleitzahl (untergeordnete Entität)

Geschachtelte untergeordnete Entitäten mit Features

Eine untergeordnete Entität des maschinellen Lernens weist darauf hin, dass für die übergeordnete Entität ein Konzept vorhanden ist. Die übergeordnete Entität kann eine untergeordnete Entität oder die oberste Entität sein. Der Wert der untergeordneten Entität fungiert als Feature für das übergeordnete Element.

Eine untergeordnete Entität kann als Feature sowohl eine Ausdrucksliste als auch ein Modell (eine andere Entität) aufweisen.

Wenn die untergeordnete Entität über eine Ausdrucksliste verfügt, wird das Vokabular des Konzepts verstärkt, der JSON-Antwort der Vorhersage werden jedoch keinerlei Informationen hinzugefügt.

Wenn die untergeordnete Entität über ein Feature einer anderen Entität verfügt, enthält die JSON-Antwort die extrahierten Daten dieser anderen Entität.

Erforderliche Features

Es muss ein erforderliches Feature gefunden werden, damit das Modell vom Vorhersageendpunkt zurückgegeben wird. Verwenden Sie ein erforderliches Feature, wenn Sie wissen, dass die eingehenden Daten mit dem Feature übereinstimmen müssen.

Wenn der Text der Äußerung nicht mit dem erforderlichen Feature übereinstimmt, wird er nicht extrahiert.

Für ein erforderliches Feature wird eine nicht durch maschinelles Lernen erworbene Entität verwendet:

• Entität vom Typ „Regulärer Ausdruck“
• Entität vom Typ „List“
• Vordefinierte Entität

Wenn Sie sicher sind, dass Ihr Modell in den Daten zu finden ist, legen Sie das Feature als erforderlich fest. Für ein erforderliches Feature wird nichts zurückgegeben, wenn es nicht gefunden wird.

Wir verwenden wieder das Beispiel für die Lieferadresse:

Lieferadresse (durch maschinelles Lernen erworbene Entität)

• Hausnummer (untergeordnete Entität)
• Anschrift (untergeordnete Entität)
• Straße (untergeordnete Entität)
• Ort (untergeordnete Entität)
• Bundesland oder Kanton (untergeordnete Entität)
• Länder/Regionen (untergeordnete Entität)
• Postleitzahl (untergeordnete Entität)

Erforderliches Feature mit vordefinierten Entitäten

Bei vorgefertigten Entitäten wie Ort, Bundesland/Kanton und Land/Region handelt es sich meist um feste Listen, die sich in der Regel nur selten ändern. Unter Umständen verfügen diese Entitäten über die relevanten empfohlenen Features, und diese Features können dann als erforderlich gekennzeichnet werden. Allerdings gehört das Flag „isRequired“ nur zu der Entität, der es zugewiesen ist, und wirkt sich nicht auf die Hierarchie aus. Wenn das vorgefertigte untergeordnete Entitätsfeature nicht gefunden wird, wirkt sich dies nicht auf die Erkennung und Rückgabe der übergeordneten Entität aus.

Angenommen, Sie benötigen ein erforderliches Feature zum Erkennen von Adressen. Möglicherweise sollten Sie die Angabe einer Hausnummer als erforderlich festlegen. Dies ermöglicht es Benutzern, „1 Microsoft Way“ oder „One Microsoft Way“ einzugeben, wobei beide Angaben zum numerischen Wert „1“ für die untergeordnete Entität für die Hausnummer aufgelöst werden würden. Weitere Informationen finden Sie im Artikel zu vorgefertigten Entitäten.

Erforderliches Feature bei Verwendung von Listenentitäten

Eine Listenentität wird als Liste mit kanonischen Namen und den zugehörigen Synonymen verwendet. Wenn die Äußerung als erforderliches Feature nicht entweder den kanonischen Namen oder ein Synonym enthält, wird die Entität nicht als Teil des Vorhersageendpunkts zurückgegeben.

Nehmen Sie einmal an, Ihr Unternehmen liefert nur an einige Länder oder Regionen. Sie können eine Listenentität erstellen, bei der es mehrere Möglichkeiten gibt, wie Ihre Kunden das Land bzw. die Region angeben können. Falls LUIS im Text der Äußerung keine genaue Übereinstimmung findet, wird die Entität (mit dem erforderlichen Feature der Listenentität) in der Vorhersage nicht zurückgegeben.

Eine Clientanwendung, wie z. B. ein Chatbot, kann zur Unterstützung eine Folgefrage stellen. Dies hilft dem Kunden zu verstehen, dass die Auswahl von Land und Region begrenzt und erforderlich ist.

Erforderliches Feature mit Entitäten für reguläre Ausdrücke

Eine Entität vom Typ „Regulärer Ausdruck“, die als erforderliches Feature verwendet wird, bietet umfassende Möglichkeiten zum Abgleichen von Text.

Im Beispiel mit der Lieferadresse können Sie einen regulären Ausdruck für die Syntaxregeln der Postleitzahlen des Landes/der Region erstellen.

Globale Features

Die häufigste Verwendung ist die Anwendung eines Features auf ein bestimmtes Modell, aber Sie können das Feature auch als globales Feature konfigurieren, um es auf Ihre gesamte Anwendung anzuwenden.

Die häufigste Verwendung eines globalen Features ist das Hinzufügen von zusätzlichem Vokabular zur App. Wenn Ihre Kunden beispielsweise hauptsächlich eine bestimmte Sprache nutzen, gleichzeitig aber erwarten, dass sie innerhalb derselben Äußerung noch eine weitere Sprache verwenden können, können Sie ein Feature für Wörter der zweiten Sprache hinzufügen.

Da die Benutzer erwarten, die zweite Sprache in allen Absichten oder Entitäten verwenden zu können, fügen Sie Wörter aus der zweiten Sprache zur Ausdrucksliste hinzu. Konfigurieren Sie die Ausdrucksliste als globales Feature.

Kombinieren von Features zur Erzielung weiterer Vorteile

Sie können mehrere Features verwenden, um ein Merkmal oder Konzept zu beschreiben. Beispiel für eine häufige Verknüpfung:

• Feature „Ausdrucksliste“: Sie können mehrere Ausdruckslisten als Features für dasselbe Modell verwenden.
• Ein Modell als Feature: Vordefinierte Entität, Entität vom Typ „Regulärer Ausdruck“, Entität vom Typ „Liste“.

Beispiel: Features einer Ticketbuchungsentität für eine Reise-App

Stellen Sie sich ein einfaches Beispiel für eine App für die Flugbuchung mit einer Absicht vom Typ „Flugreservierung“ und einer Entität für die Ticketbuchung vor. Mit der Entität für die Ticketbuchung werden die Informationen zum Buchen eines Flugtickets in einem Reservierungssystem erfasst.

Die Machine Learning-Entität für die Ticketbuchung verfügt über zwei untergeordnete Entitäten zum Erfassen des Abflugorts und des Ankunftsorts. Die Features müssen den einzelnen untergeordneten Entitäten hinzugefügt werden, nicht der Entität der obersten Ebene.

Bei der Entität für die Ticketbuchung handelt es sich um eine Machine Learning-Entität mit untergeordneten Entitäten, z. B. für Abflugort und Ankunftsort. Beide untergeordneten Entitäten weisen auf einen geografischen Standort hin. Für die Extraktion der Standorte und die Unterscheidung zwischen Abflugort und Ankunftsort sollte jede untergeordnete Entität über entsprechende Features verfügen.

Wenn Sie damit rechnen, dass von den Benutzern Flughafencodes und -namen verwendet werden, sollte LUIS über Ausdruckslisten verfügen, in denen diese beiden Arten von Ausdrücken verwendet werden. Es kann sein, dass Flughafencodes häufiger bei der Eingabe von Text in einem Chatbot verwendet werden, während Flughafennamen häufiger bei gesprochenen Wörtern vorkommen, z. B. bei einem Chatbot mit Spracherkennung.

Die übereinstimmenden Details der Features werden nur für Modelle und nicht für Ausdruckslisten zurückgegeben, da bei JSON-Vorhersagen nur die Rückgabe von Modellen erfolgt.

Bezeichnungen bei der Ticketbuchung in einer Absicht

Nach dem Erstellen der Machine Learning-Entität müssen Sie einer Absicht Beispieläußerungen hinzufügen und die übergeordnete Entität und alle untergeordneten Entitäten mit Bezeichnungen versehen.

Bezeichnen Sie beim Beispiel für die Ticketbuchung die Beispieläußerungen in der Absicht mit der Entität „TicketBooking“ und allen untergeordneten Entitäten des Texts.

Beispiel: App für Pizzabestellung

In einem zweiten Beispiel geht es um eine App für eine Pizzeria, mit der Pizzabestellungen empfangen werden können, einschließlich der Details zur Pizza. Nach Möglichkeit sollten alle Details der Pizza extrahiert werden, um die Bestellung abarbeiten zu können.

In diesem Beispiel ist die Machine Learning-Entität komplexer und umfasst geschachtelte untergeordnete Entitäten, Ausdruckslisten und vordefinierte und benutzerdefinierte Entitäten.

In diesem Beispiel werden Features auf der Ebene der untergeordneten Entität und noch auf einer weiteren untergeordneten Ebene verwendet. Es ist ein wichtiger Teil Ihres Entitätsentwurfs, welche Ebene welche Art von Ausdrucksliste oder Modell als Feature erhält.

Untergeordnete Entitäten können zwar über viele Ausdruckslisten als Features verfügen, die zur Erkennung der Entität beitragen, aber jede untergeordnete Entität weist nur ein Modell als Feature auf. Im Falle dieser Pizza-App handelt es sich bei diesen Modellen hauptsächlich um Listen.

Die richtig bezeichneten Beispieläußerungen werden so angezeigt, dass die Schachtelung der Entitäten veranschaulicht wird.

Nächste Schritte

• LUIS-Anwendungsentwurf
• Vordefinierte Modelle
• Absichten
• Entitäten