Häufig gestellte Fragen zu Azure KI-Containern

Mit Azure KI-Containern können Entwickler*innen dieselben intelligenten APIs verwenden, die in Azure verfügbar sind, jedoch mit den Vorteilen der Containerisierung. Einige Container sind als geschlossene Vorschau verfügbar, für die möglicherweise eine Anwendung für den Zugriff erforderlich ist. Andere Container sind als nicht geschlossene Vorschauversion öffentlich oder allgemein verfügbar. Eine vollständige Liste der Container und ihrer Verfügbarkeit finden Sie im Artikel Containerunterstützung in Azure KI Services. Sie können den Container auch in der Microsoft Container Registry (MCR) anzeigen.

Azure KI-Container sind eine Alternative zur Azure KI Services-Cloud. Container bieten dieselben Funktionen wie die entsprechenden Clouddienste. Kunden können die Container lokal oder in Azure bereitstellen. Die KI-Kerntechnologie, die Tarife, die API-Schlüssel und die API-Signatur sind zwischen dem Container und den entsprechenden Clouddiensten identisch. Es gibt eine Reihe von Features und Vorteile, die für Container im Vergleich zu ihren Entsprechungen im Clouddienst sprechen.

Bisher wurden Container der beschränkten Vorschau im Repository containerpreview.azurecr.io gehostet. Seit dem 22. September 2020 werden diese Container in der Microsoft Container Registry gehostet. Um sie herunterzuladen, müssen Sie den Befehl docker login nicht verwenden. Sie können einen Container der beschränkten Vorschau ausführen, wenn Ihre Azure-Ressource mit einer genehmigten Azure-Abonnement-ID erstellt wurde. Sie können den Container nicht ausführen, wenn Ihr Azure-Abonnement nach dem Ausfüllen des Anforderungsformulars nicht genehmigt wurde.

Ziel ist es, weitere Azure KI Services-Angebote als Container bereitzustellen. Wenden Sie sich an Ihren örtlichen Microsoft Account Manager, um Updates zu neuen Containerversionen und andere Ankündigungen zu Azure KI Services zu erhalten.

Azure KI bietet SLAs für in der Cloud gehostete Dienste. Sie können sie sich auf unserer SLA-Seite ansehen.

Azure KI Services in Containern stellt jedoch kein SLA bereit, da es sich um lokale Software handelt. Die Kunden kontrollieren die Azure KI Services-Containerkonfigurationen von Ressourcen, sodass Microsoft keine SLAs für die allgemeine Verfügbarkeit (General Availability, GA) anbieten kann. Kunden können Container lokal bereitstellen und die Hostumgebungen definieren.

Azure KI-Standardcontainer können in den Sovereign Clouds verwendet werden. Die Container können ausgeführt werden und eine Verbindung mit dem Abrechnungsendpunkt in diesen Clouds herstellen, nachdem sie autorisiert wurden. Die Containerimages müssen jedoch aus der öffentlichen Cloudcontainerregistrierung abgerufen werden. Container, die auf zur Laufzeit heruntergeladenen Sprachmodellen basieren, z. B. Translator- oder Custom Speech-Spracherkennung, werden ebenfalls so konfiguriert, dass Modelle von öffentlichen Endpunkten abgerufen werden.

Der Kauf getrennter Container wird in Sovereign-Clouds derzeit nicht unterstützt. In der öffentlichen Cloud erworbene getrennte Container und alle Abhängigkeiten können aber in Sovereign Clouds übertragen und in der Sovereign Cloud-Infrastruktur ausgeführt werden.

Kunden können wählen, wann sie die von ihnen bereitgestellten Container aktualisieren möchten. Container werden mit standardmäßigen Docker-Tags wie latest gekennzeichnet, um die neueste Version anzuzeigen. Wir empfehlen Kunden, die neuesten Versionen von Containern zu pullen, sobald sie veröffentlicht werden. Ausführliche Informationen dazu, wie Sie benachrichtigt werden, wenn ein Image aktualisiert wird, finden Sie unter Azure Container Registry-Webhooks.

Containerlizenzdateien werden als Schlüssel verwendet, um bestimmte Dateien in jedem Containerimage zu entschlüsseln. Wenn diese verschlüsselten Dateien in einem neuen Containerimage aktualisiert werden, kann die Lizenzdatei, über die Sie verfügen, den Container möglicherweise nicht starten, auch wenn sie mit der vorherigen Version des Containerimages funktioniert hat. Um dieses Problem zu vermeiden, empfiehlt es sich, eine neue Lizenzdatei vom Ressourcenendpunkt für Ihren Container herunterzuladen, der in Azure-Portal bereitgestellt wird, nachdem Sie neue Imageversionen von mcr.microsoft.com abgerufen haben.

Zum Herunterladen einer neuen Lizenzdatei können Sie DownloadLicense=True zu Ihrem docker run-Befehl zusammen mit einer Lizenzeinbindung, Ihrem API-Schlüssel und Ihrem Abrechnungsendpunkt hinzufügen. Ausführliche Anweisungen finden Sie in der Dokumentation Ihres Containers.

Im Allgemeinen wird nur die aktuelle Version des Containers unterstützt. Wir empfehlen unseren Kunden, auf dem Laufenden zu bleiben, um die neueste Patches und Technologien zu erhalten.

Änderungen an der Hauptversion deuten darauf hin, dass es eine Breaking Change an der API-Signatur gibt. Wir gehen davon aus, dass dieser Hinweis in der Regel mit wesentlichen Versionsänderungen des entsprechenden Azure KI Services-Cloudangebots einhergehen wird. Geringfügige Versionsänderungen deuten auf Fehlerbehebungen, Modellupdates oder neue Features hin, die keine Breaking Change für die API-Signatur bewirken.

Wenn Sie Probleme beim Ausführen eines Azure KI Services-Containers haben, können Sie versuchen, den Microsoft-Diagnosecontainer zu verwenden. Verwenden Sie diesen Container zum Diagnostizieren häufiger Fehler in Ihrer Bereitstellungsumgebung, die ggf. verhindern, dass Azure KI-Container wie erwartet funktionieren.

Zum Abrufen des Containers verwenden Sie den folgenden Befehl: docker pull

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

Führen Sie dann den Container aus. Ersetzen Sie {ENDPOINT_URI} durch Ihren Endpunkt, und ersetzen Sie {API_KEY} durch den Schlüssel für Ihre Ressource:

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

Der Container überprüft die Netzwerkkonnektivität mit dem Abrechnungsendpunkt.

Ganz gleich, ob Sie über keine zuverlässige Internetverbindung verfügen, Bandbreitenkosten sparen möchten, Anforderungen an eine niedrige Wartezeit haben oder mit vertraulichen Daten arbeiten, die vor Ort analysiert werden müssen, bietet Ihnen Azure IoT Edge mit Azure KI-Containern Konsistenz mit der Cloud.

Wir testen keine Container mit OpenShift, aber im Allgemeinen sollten Azure KI-Container auf jeder Plattform ausgeführt werden können, die Docker-Images unterstützt. Wenn Sie OpenShift verwenden, empfehlen wir, die Container als root-user auszuführen.

Wir empfehlen unseren Kunden, ihre Bedenken öffentlich zu äußern und andere, die ebenso vorgegangen sind, an den Stellen, an denen sich potenzielle Probleme überschneiden, zu unterstützen. Sie können das Feedback-Tool sowohl für Produktfeedback als auch für Featureempfehlungen verwenden.

Hier sind die Statusmeldungen und Fehler aufgeführt:

Die Kundensupportkanäle sind dieselben wie bei den cloudbasierten Azure KI Services-APIs. Alle Azure KI-Container enthalten Protokollierungsfeatures, die uns und Kunden und Kundinnen des Communitysupports helfen. Im Folgenden finden Sie Optionen für weitere Unterstützung:

• Suchen Sie nach Kontaktinformationen in Ihrem Azure-Supportplan.
• Versuchen Sie es in diesen Bereichen von Stack Overflow, einer Frage- und Antwortseite für professionelle und begeisterte Programmierer.
  • Azure KI Services
  • Microsoft Cognitive

Die Abrechnung erfolgt verbrauchsorientiert, ähnlich wie in der Azure KI Services-Cloud. Die Container müssen konfiguriert werden, um Messdaten an Azure zu senden, damit die Transaktionen entsprechend abgerechnet werden können. Die Ressourcen, die für die gehosteten und lokalen Dienste verwendet werden, werden zu dem einzelnen Kontingent mit gestaffelten Preisen hinzugefügt, wobei beide Verwendungen gegeneinander abgewogen werden. Weitere Informationen finden Sie im Abrechnungsabschnitt Ihres verwendeten Containers.

Im folgenden Beispiel werden Informationen gezeigt, die von einem Container für die Messung übermittelt werden:

usageRequestBody": {
  "id": "1234abcd-1234-56ab-ab12-1234abcd",
  "containerType": "<container-type>",
  "containerVersion": "<container-version>",
  "containerId": "<contianer-id>",
  "meter": {
    "name": "<meter-name>",
    "quantity": 0.0
  },
  "requestTime": 12345687890,
  "apiType": "<api-type>"
},

Die Standardgarantie von Microsoft für Unternehmenssoftware gilt für alle Container, die offiziell als „allgemein verfügbar“ (generally available, GA) bekanntgegeben sind. Es gibt keine Garantie für Vorschauversionen.

Azure KI-Container sind nicht lizenziert, zu Messzwecken mit Azure verbunden zu werden. Kunden müssen sicherstellen, dass Container immer mit dem Messungsdienst kommunizieren können.

Azure KI-Container sind nicht lizenziert, zu Messzwecken mit Azure verbunden zu werden. Kunden müssen sicherstellen, dass Container immer mit dem Messungsdienst kommunizieren können.

Azure KI-Container sind x64-basierte Container, die alle kompatiblen Linux-Knoten, VMs und Edgegeräte mit Unterstützung für x64-Linux-Docker-Container ausführen können. Sie alle erfordern CPU-Prozessoren. Weitere Informationen finden Sie im Abschnitt mit Containeranforderungen und -empfehlungen Ihres verwendeten Containers.

Azure KI-Container sind Linux-Container, unter Windows werden Linux-Container jedoch eingeschränkt unterstützt. Weitere Informationen zu Linux-Containern unter Windows finden Sie in der Docker-Dokumentation.

Microsoft ist der erste Cloudanbieter, der seine vorab trainierten KI-Modelle in Container mit einfacher Abrechnung pro Transaktion verschiebt, als ob Kunden einen Clouddienst nutzen würden. Microsoft ist überzeugt, dass eine Hybrid Cloud den Kunden mehr Auswahl bietet.

Azure KI-Container umfassen keine Compliancezertifizierungen.

Container können in jeder Region betrieben werden, benötigen aber einen Schlüssel und müssen zur Messung auf Azure zurückgreifen. Alle unterstützten Regionen für den Clouddienst werden für den Messaufruf des Containers unterstützt.

• Verwenden von Azure KI-Containern in nicht verbundenen Umgebungen