Installieren und Ausführen des Azure KI Übersetzer-Containers

Mit Containern können Sie die Azure KI Übersetzer-API in Ihrer eigenen Infrastruktur hosten. Das Containerimage enthält alle Bibliotheken, Tools und Abhängigkeiten, die zum konsistenten Ausführen einer Anwendung in einer beliebigen privaten, öffentlichen oder persönlichen Computerumgebung erforderlich sind. Falls Ihre Sicherheits- oder Datengovernanceanforderungen durch Remoteaufrufe der Azure KI Übersetzer-API nicht erfüllt werden können, sind Container eine gute Option.

In diesem Artikel erfahren Sie, wie Sie den Übersetzer-Container mithilfe der Docker-API installieren und online ausführen. Der Azure KI Übersetzer-Container unterstützt folgende Vorgänge:

• Textübersetzung: Übersetzen Sie in Echtzeit die Bedeutung von Wörtern oder Ausdrücken unter Berücksichtigung des Kontexts aus einer unterstützten Ausgangssprache (source) in eine unterstützte Zielsprache (target). Weitere Informationen finden Sie unter Container: Übersetzen von Text.

• 🆕Texttransliteration. Konvertieren Sie Text in Echtzeit ein anderes Sprachskript oder Schriftsystem. Weitere Informationen finden Sie unter Container: Transliterieren von Text.

• 🆕 Dokumentübersetzung. Übersetzen Sie Dokumente synchron und in Echtzeit unter Beibehaltung von Struktur und Format. Weitere Informationen finden Sie unter Container: Übersetzen von Dokumenten.

Voraussetzungen

Für den Einstieg benötigen Sie die folgenden Ressourcen, eine geschlossene Zugriffsgenehmigung und die folgenden Tools:

Azure-Ressourcen

• Ein aktives Azure-Abonnement. Falls Sie über kein Abonnement verfügen, können Sie ein für 12 Monate kostenloses Konto erstellen.

• Eine genehmigte Zugriffsanforderung für einen verbundenen Übersetzer-Container oder für einen nicht verbundenen Übersetzer-Container.

• Eine Azure KI Übersetzer-Ressource (keine Azure KI Services-Ressource mit mehreren Diensten), die unter der genehmigten Abonnement-ID erstellt wurde. Sie benötigen den Ihrer Ressource zugeordneten API-Schlüssel und Endpunkt-URI. Beide Werte sind erforderlich, um den Container zu starten, und befinden sich im Azure-Portal auf der Übersichtsseite der Ressource.

  • Wählen Sie bei verbundenen Übersetzer-Containern den Tarif S1 aus.

    

  • Wählen Sie bei nicht verbundenen Übersetzer-Containern die Option Commitment tier disconnected containers als Tarif aus. Die Option zum Kauf einer Mindestabnahme wird nur angezeigt, wenn Ihre Zugriffsanforderung für den nicht verbundenen Container genehmigt wurde.

    

Docker-Tools

Sie sollten über Grundkenntnisse der Konzepte von Docker verfügen (einschließlich Registrierungen, Repositorys, Container und Containerimages) und die grundlegenden Begriffe und Befehle von docker kennen. Eine Einführung in Docker und Container finden Sie in der Docker-Übersicht.

Anforderungen an Hostcomputer

Der Host ist ein x64-basierter Computer, auf dem der Docker-Container ausgeführt wird. Dies kann ein Computer in Ihrer lokalen Umgebung oder einer der folgenden Docker-Hostingdienste in Azure sein:

• Azure Kubernetes Service
• Azure Container Instances
• Ein in Azure Stack bereitgestellter Kubernetes-Cluster Weitere Informationen finden Sie unter Bereitstellen von Kubernetes in Azure Stack.

Empfohlene CPU-Kerne und Arbeitsspeicher

In der folgenden Tabelle werden die minimalen und empfohlenen Spezifikationen sowie die zulässigen Transaktionen pro Sekunde (TPS) für die einzelnen Container beschrieben.

• Jeder Kern muss eine Geschwindigkeit von mindestens 2,6 GHz aufweisen.

• Für jedes Sprachpaar werden 2 GB Arbeitsspeicher empfohlen.

• Zusätzlich zu den grundlegenden Anforderungen werden 4 GB Arbeitsspeicher für jede gleichzeitige Dokumentverarbeitung benötigt.

  Tipp

  Mithilfe des Befehls docker images können Sie Ihre heruntergeladenen Containerimages auflisten. Mit dem folgenden Befehl werden beispielsweise die ID, das Repository und das Tag jedes heruntergeladenen Containerimages in Form einer Tabelle aufgelistet:

   docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"
  
   IMAGE ID         REPOSITORY                TAG
   <image-id>       <repository-path/name>    <tag-name>
  

Erforderliche Eingabe

Alle Azure KI-Container erfordern folgende Eingabewerte:

• EULA-Annahmeeinstellung. Sie müssen über Lizenzbedingungen (End-User License Agreement, EULA) verfügen, deren Wert auf Eula=accept festgelegt ist.

• API-Schlüssel und Endpoint-URL. Der API-Schlüssel wird verwendet, um den Container zu starten. Sie können die Werte für API-Schlüssel und Endpunkt-URL abrufen, indem Sie zur Seite Schlüssel und Endpunkt Ihrer Azure KI Übersetzer-Ressource navigieren und das Symbol Copy to clipboard auswählen.

• Wenn Sie Dokumente übersetzen möchten, müssen Sie den Endpunkt für die Dokumentübersetzung verwenden.

Abrechnung

• Abfragen des Containers werden mit dem Tarif der Azure-Ressource abgerechnet, die für den API-Key verwendet wird.

• Ihnen wird jede Containerinstanz in Rechnung gestellt, die zum Verarbeiten Ihrer Dokumente und Bilder verwendet wird.

• Der Befehl docker run lädt ein Image aus der Microsoft-Artefaktregistrierung herunter und startet den Container, wenn alle drei der folgenden Optionen mit gültigen Werten angegeben wurden:

Verbindungsherstellung mit Azure

• Die Abrechnungsargumentwerte des Containers ermöglichen es dem Container, eine Verbindung mit dem Abrechnungsendpunkt herzustellen und ausgeführt zu werden.

• Der Container meldet die Nutzung etwa alle 10 bis 15 Minuten. Wenn der Container nicht innerhalb des zulässigen Zeitfensters eine Verbindung mit Azure herstellt, wird der Container weiterhin ausgeführt, verarbeitet aber keine Anfragen, bis der Abrechnungsendpunkt wiederhergestellt wurde.

• Es werden zehn Verbindungsversuche im gleichen Zeitintervall von zehn bis 15 Minuten unternommen. Wenn die Verbindung mit dem Abrechnungsendpunkt nicht innerhalb der 10 Versuche hergestellt werden kann, wird die Bereitstellung von Anforderungen durch den Container beendet. Ein Beispiel für die Informationen, die für die Abrechnung an Microsoft gesendet werden, finden Sie in den Häufig gestellten Fragen (FAQ) zu Azure KI-Containern.

Containerimages und Tags

Die Containerimages von Azure KI Services finden Sie im Katalog der Microsoft-Artefaktregistrierung. Der Azure KI Übersetzer-Container befindet sich im Repository „azure-cognitive-services/translator“ und heißt text-translation. Der vollqualifizierte Name des Containerimages lautet mcr.microsoft.com/azure-cognitive-services/translator/text-translation:latest.

Verwenden Sie das Tag „latest“, um die neueste Version des Containers zu verwenden. Die vollständige Liste der Versionstags der Textübersetzung von Azure KI Services finden Sie in der Microsoft-Containerregistrierung.

Verwenden von Containern

Wählen Sie eine Registerkarte aus, um Ihre Azure KI Übersetzer-Containerumgebung auszuwählen:

docker run --rm -it -p 5000:5000 --memory 12g --cpus 4 \
-v /mnt/d/TranslatorContainer:/usr/local/models \
-e apikey={API_KEY} \
-e eula=accept \
-e billing={ENDPOINT_URI} \
-e Languages=en,fr,es,ar,ru  \
mcr.microsoft.com/azure-cognitive-services/translator/text-translation:latest

  curl -X POST "http://localhost:5000/translate?api-version=3.0&from=en&to=zh-HANS" -H "Content-Type: application/json" -d "[{'Text':'Hello, what is your name?'}]"

docker run --rm -it -p 5000:5000 \

-v {MODEL_MOUNT_PATH} \

-v {LICENSE_MOUNT_PATH} \

-e Mounts:License={CONTAINER_LICENSE_DIRECTORY} \

-e DownloadLicense=true \

-e eula=accept \

-e billing={ENDPOINT_URI} \

-e apikey={API_KEY} \

-e Languages={LANGUAGES_LIST} \

[image]

    -e MODELS= usr/local/models/model1/, usr/local/models/model2/
    -e TRANSLATORSYSTEMCONFIG=/usr/local/models/Config/5a72fa7c-394b-45db-8c06-ecdfc98c0832

docker run --rm -it -p 5000:5000 --memory {MEMORY_SIZE} --cpus {NUMBER_CPUS} \

-v {MODEL_MOUNT_PATH} \

-v {LICENSE_MOUNT_PATH} \

-v {OUTPUT_MOUNT_PATH} \

-e Mounts:License={CONTAINER_LICENSE_DIRECTORY} \

-e Mounts:Output={CONTAINER_OUTPUT_DIRECTORY} \

-e MODELS={MODELS_DIRECTORY_LIST} \

-e TRANSLATORSYSTEMCONFIG={TRANSLATOR_CONFIG_JSON} \

-e eula=accept \

[image]

Überprüfen auf aktive Container

Es gibt mehrere Möglichkeiten zu überprüfen, ob ein Container aktiv ist:

• Der Container stellt eine Homepage unter / als visuelle Validierung zur Verfügung, dass der Container ausgeführt wird.

• Sie können Ihren bevorzugten Webbrowser öffnen und zu der externen IP-Adresse und dem verfügbar gemachten Port des betreffenden Containers navigieren. Überprüfen Sie mithilfe der folgenden Anforderungs-URLs, ob der Container ausgeführt wird. Die aufgeführten Beispielanforderungs-URLs verweisen auf http://localhost:5000. Ihr spezifischer Container kann jedoch davon abweichen. Denken Sie daran, dass Sie zur externen IP-Adresse Ihres Containers und zum verfügbar gemachten Port navigieren.

Wenn Sie Probleme beim Ausführen eines Azure KI Services-Containers haben, können Sie versuchen, den Microsoft-Diagnosecontainer zu verwenden. Verwenden Sie diesen Container zum Diagnostizieren häufiger Fehler in Ihrer Bereitstellungsumgebung, die ggf. verhindern, dass Azure KI-Container wie erwartet funktionieren.

Zum Abrufen des Containers verwenden Sie den folgenden Befehl: docker pull

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

Führen Sie dann den Container aus. Ersetzen Sie {ENDPOINT_URI} durch Ihren Endpunkt, und ersetzen Sie {API_KEY} durch den Schlüssel für Ihre Ressource:

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

Der Container überprüft die Netzwerkkonnektivität mit dem Abrechnungsendpunkt.

Beenden des Containers

Zum Herunterfahren des Containers drücken Sie in der Befehlszeilenumgebung, in der der Container ausgeführt wird, STRG+C.

Anwendungsfälle für Hilfscontainer

Bei manchen Übersetzer-Abfragen werden Hilfscontainer benötigt, um Vorgänge erfolgreich abschließen zu können. Wenn Sie Office-Dokumente verwenden und keine Erkennung der Ausgangssprache erforderlich ist, wird nur der Übersetzer-Container benötigt. Wenn allerdings die Ausgangssprache erkannt werden soll oder Sie gescannte PDF-Dokumente verwenden, sind Hilfscontainer erforderlich:

In der folgenden Tabelle sind die erforderlichen Hilfscontainer für Ihre Text- und Dokumentübersetzungsvorgänge aufgeführt. Der Übersetzer-Container sendet Abrechnungsinformationen über die Azure KI Übersetzer-Ressource in Ihrem Azure-Konto an Azure.

Verwenden von Hilfscontainern mit docker compose

Docker Compose ist ein Tool, mit dem Sie Anwendungen mit mehreren Containern mithilfe einer einzelnen YAML-Datei konfigurieren können, die üblicherweise den Namen compose.yaml hat. Verwenden Sie den Befehl docker compose up, um Ihre Containeranwendung zu starten, und den Befehl docker compose down, um Ihre Container zu beenden und zu entfernen.

Wenn Sie die Docker Desktop-CLI installiert haben, verfügen Sie bereits über Docker Compose und die erforderlichen Komponenten. Wenn Sie nicht über Docker Desktop verfügen, finden Sie weitere Informationen in der Installationsübersicht für Docker Compose.

Erstellen Ihrer Anwendung

1. Erstellen Sie mit Ihrem bevorzugten Editor oder Ihrer bevorzugten IDE ein neues Verzeichnis für Ihre App, und nennen Sie es container-environment, oder verwenden Sie einen Namen Ihrer Wahl.

2. Erstellen Sie eine neue YAML-Datei mit dem Namen compose.yaml. Für die Datei compose kann sowohl die Erweiterung „.yml“ als auch die Erweiterung „.yaml“ verwendet werden.

3. Kopieren Sie das folgende YAML-Codebeispiel, und fügen Sie es in die Datei compose.yaml ein. Ersetzen Sie {TRANSLATOR_KEY} und {TRANSLATOR_ENDPOINT_URI} durch den Schlüssel- bzw. Endpunktwert Ihrer Übersetzer-Instanz aus dem Azure-Portal. Wenn Sie Dokumente übersetzen, achten Sie darauf, dass Sie den Endpunkt für die Dokumentübersetzung (document translation endpoint) verwenden.

4. Der Name der obersten Ebene (azure-ai-translator, azure-ai-language, azure-ai-read) ist der Parameter, den Sie angeben.

5. container_name ist ein optionaler Parameter, der einen Namen für den Container festlegt, wenn dieser ausgeführt wird, anstatt docker compose einen Namen generieren zu lassen.

   services:
     azure-ai-translator:
       container_name: azure-ai-translator
       image: mcr.microsoft.com/azure-cognitive-services/translator/text-translation::latest
       environment:
           - EULA=accept
           - billing={TRANSLATOR_ENDPOINT_URI}
           - apiKey={TRANSLATOR_KEY}
           - ladurl=http://azure-ai-language:5000
           - VISIONURL=http://azure-ai-read:5000
       ports:
             - "5000:5000"
       volumes:
             - {your local folder}:/usr/local/models
       azure-ai-language:
         container_name: azure-ai-language
         image:  mcr.microsoft.com/azure-cognitive-services/textanalytics/language:latest
         environment:
             - EULA=accept
             - billing={LANGUAGE_RESOURCE_ENDPOINT_URI}
             - apiKey={LANGUAGE_RESOURCE_KEY}
             - Languages=en,es
             - LADINCLUSTER=true 
       azure-ai-read:
         container_name: azure-ai-read
         image:  mcr.microsoft.com/azure-cognitive-services/vision/read:latest
         environment:
             - EULA=accept
             - billing={COMPUTER_VISION_ENDPOINT_URI}
             - apiKey={COMPUTER_VISION_KEY}
   

6. Öffnen Sie ein Terminal, navigieren Sie zum Ordner container-environment, und starten Sie die Container mit dem folgenden docker-compose-Befehl:

   docker compose up
   

7. Zum Beenden des Containers verwenden Sie den folgenden Befehl:

   docker compose down
   

   Tipp

   Hilfreiche Docker-Befehle:

   • docker compose pause hält ausgeführte Container an.
   • docker compose unpause {your-container-name} setzt angehaltene Container fort.
   • docker compose restart startet alle beendeten und ausgeführten Container neu, wobei alle vorherigen Änderungen erhalten bleiben. Wenn Sie Änderungen an Ihrer compose.yaml-Konfiguration vornehmen, werden diese Änderungen mit dem Befehl docker compose restart nicht aktualisiert. Sie müssen den Befehl docker compose up verwenden, um Aktualisierungen und Änderungen in der Datei compose.yaml zu übernehmen.
   • docker compose ps -a listet alle Container auf (auch beendete Container).
   • docker compose exec ermöglicht das Ausführen von Befehlen zum Trennen oder Festlegen von Umgebungsvariablen in einem ausgeführten Container.

   Weitere Informationen finden Sie in der Docker CLI-Referenz.

Übersetzer und unterstützende Containerimages und Tags

Die Containerimages von Azure KI Services finden Sie im Katalog der Microsoft-Artefaktregistrierung. In der folgenden Tabelle ist der vollqualifizierte Imagespeicherort für die Text- und Dokumentübersetzung aufgeführt:

Andere Parameter und Befehle

Im Anschluss finden Sie einige weitere Parameter und Befehle, die Sie verwenden können, um den Container auszuführen:

Verwendungseinträge

Beim Betrieb von Docker-Containern in einer nicht verbundenen Umgebung schreibt der Container Verwendungseinträge in ein Volume, wo sie im Laufe der Zeit gesammelt werden. Sie können auch einen REST-API-Endpunkt aufrufen, um einen Bericht zur Dienstnutzung zu generieren.

Argumente zum Speichern von Protokollen

Wenn er in einer nicht verbundenen Umgebung ausgeführt wird, muss eine Ausgabeeinbindung für den Container verfügbar sein, um Nutzungsprotokolle zu speichern. Im folgenden Beispiel würden Sie z. B. -v /host/output:{OUTPUT_PATH} und Mounts:Output={OUTPUT_PATH} einbeziehen und {OUTPUT_PATH} durch den Pfad ersetzen, unter dem die Protokolle gespeichert werden:

Beispiel für Befehl docker run

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Namen von Umgebungsvariablen in Kubernetes-Bereitstellungen

• Einige Azure KI-Container wie Übersetzer erfordern, dass Benutzer*innen bei der Ausführung von Containern die Namen von Umgebungsvariablen übergeben, die Doppelpunkte (:) enthalten.

• Kubernetes akzeptiert keine Doppelpunkte in Umgebungsvariablennamen. Zur Lösung dieses Problems können Sie Doppelpunkte bei der Bereitstellung in Kubernetes durch zwei Unterstriche (__) ersetzen. Sehen Sie sich das folgende Beispiel für ein akzeptables Format für Namen von Umgebungsvariablen an:

        env:
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

In diesem Beispiel wird das Standardformat für die Namen Mounts:License und Mounts:Output für Umgebungsvariablen im Docker-Ausführungsbefehl ersetzt.

Abrufen von Verwendungsdatensätzen unter Verwendung der Containerendpunkte

Der Container stellt zwei Endpunkte zum Zurückgeben von Einträgen zu seiner Nutzung bereit.

Abrufen aller Einträge

Der folgende Endpunkt stellt einen Bericht bereit, der alle im eingebundenen Verzeichnis der Abrechnungseinträge erfassten Nutzungen zusammenfasst.

https://<service>/records/usage-logs/

HTTPS-Beispielendpunkt zum Abrufen aller Datensätze

http://localhost:5000/records/usage-logs

Abrufen der Einträge für einen bestimmten Monat

Der folgende Endpunkt stellt einen Bericht bereit, in dem die Nutzung für einen bestimmten Monat und ein bestimmtes Jahr zusammengefasst wird:

https://<service>/records/usage-logs/{MONTH}/{YEAR}

HTTPS-Beispielendpunkt zum Abrufen von Datensätzen für einen bestimmten Monat und ein bestimmtes Jahr

http://localhost:5000/records/usage-logs/03/2024

Die Endpunkte für Nutzungsprotokolle (usage-logs) geben eine JSON-Antwort zurück, die in etwa wie im folgenden Beispiel aussieht:

{
  "apiType": "string",
"serviceName": "string",
"meters": [
  {
    "name": "string",
    "quantity": 256345435
    }
  ]
}

      {
    "type": "CommerceUsageResponse",
    "meters": [
      {
        "name": "CognitiveServices.TextTranslation.Container.OneDocumentTranslatedCharacters",
        "quantity": 1250000,
        "billedUnit": 1875000
      },
      {
        "name": "CognitiveServices.TextTranslation.Container.TranslatedCharacters",
        "quantity": 1250000,
        "billedUnit": 1250000
      }
    ],
    "apiType": "texttranslation",
    "serviceName": "texttranslation"
   }

Zusammenfassung

In diesem Artikel wurden die Konzepte und der Workflow zum Herunterladen, Installieren und Ausführen eines Azure KI Übersetzer-Containers vermittelt.

• Azure KI Übersetzer-Container unterstützen Textübersetzung, synchrone Dokumentübersetzung und Texttransliteration.

• Containerimages werden aus der Containerregistrierung heruntergeladen und in Docker ausgeführt.

• Bei der Instanziierung eines Containers müssen Sie die Abrechnungsinformationen angeben.

Nächste Schritte