Distribuire ed eseguire i contenitori in istanze di Azure Container

Articolo
10/05/2024

Con la procedura seguente, ridimensionare facilmente le applicazioni di Servizi di Azure AI nel cloud con Istanze di Azure Container. La containerizzazione consente di concentrarsi sulla creazione di applicazioni anziché sulla gestione dell'infrastruttura. Per altre informazioni sull'uso dei contenitori, vedere funzionalità e vantaggi.

Prerequisiti

La ricetta funziona con qualsiasi contenitore di Servizi di Azure AI. La risorsa dei Servizi di Azure AI deve essere creata prima di usare la ricetta. Ogni Servizio di Azure AI che supporta i contenitori include un articolo "Come installare" per l'installazione e la configurazione del servizio per un contenitore. Alcuni servizi richiedono un file o un set di file come input per il contenitore, è importante comprendere e usare correttamente il contenitore prima di usare questa soluzione.

Una risorsa di Azure per il Servizio di Azure AI in uso.
URL dell'endpoint del Servizio di Azure AI: esaminare la sezione "Come installare" del servizio specifico per il contenitore, per trovare dove si trova l'URL dell'endpoint all'interno del portale di Azure e un esempio corretto dell'URL. Il formato esatto può cambiare da servizio a servizio.
Chiave del Servizio di Azure AI: le chiavi si trovano nella pagina Chiavi per la risorsa di Azure. È necessaria solo una delle due chiavi. La chiave è una stringa di 32 caratteri alfanumerici.
Un singolo contenitore di Servizi di Azure AI nell'host locale (il computer). Assicurarsi di poter:
- Trascinare l'immagine verso il basso con un comando docker pull.
- Eseguire correttamente il contenitore locale con tutte le impostazioni di configurazione necessarie con un comando docker run.
- Chiamare l'endpoint del contenitore, ottenendo una risposta HTTP 2xx e una risposta JSON.

Tutte le variabili tra parentesi angolari, <>, devono essere sostituite con i propri valori. Questa sostituzione include le parentesi angolari.

Importante

Il contenitore LUIS richiede un file di modello .gz di cui viene eseguito il pull in fase di runtime. Il contenitore deve essere in grado di accedere a questo file di modello tramite un montaggio del volume dall'istanza di contenitore. Per caricare un file di modello, seguire questa procedura:

Creare una condivisione file di Azure. Prendere nota del nome dell'account di archiviazione di Azure, della chiave e del nome della condivisione file perché saranno necessari in un secondo momento.
Esportare il modello LUIS (app in pacchetto) dal portale LUIS.
Nel portale di Azure, passare alla pagina Panoramica della risorsa dell'account di archiviazione e selezionare Condivisioni file.
Selezionare il nome della condivisione file creato di recente, quindi selezionare Carica. Quindi, caricare l'app in pacchetto.

Azure portal
CLI

Creare una risorsa dell'istanza di Azure Container usando il portale di Azure

Passare alla pagina Crea per Istanze di Container.

Immettere le informazioni seguenti nella scheda Informazioni di base:

Impostazione	Valore
Subscription	Selezionare la propria sottoscrizione.
Gruppo di risorse	Selezionare il gruppo di risorse disponibile o crearne uno nuovo, ad esempio `cognitive-services`.
Nome contenitore	Immettere un nome, ad esempio `cognitive-container-instance`. Il nome deve essere in minuscolo.
Ufficio	Selezionare un'area per la distribuzione.
Tipo di immagine	Se l'immagine del contenitore viene archiviata in un registro contenitori che non richiede credenziali, scegliere `Public`. Se l'accesso all'immagine del contenitore richiede credenziali, scegliere `Private`. Consultare immagini e repository del contenitore per informazioni dettagliate sul fatto che l'immagine del contenitore sia `Public` o `Private` ("Anteprima pubblica").
Nome dell'immagine	Immettere il percorso del contenitore dei Servizi di Azure AI. Il percorso è quello usato come argomento per il comando `docker pull`. Fare riferimento ai repository e alle immagini del contenitore per i nomi delle immagini disponibili e il repository corrispondente. Il nome dell'immagine deve essere completo specificando tre parti. Innanzitutto, il registro contenitori, quindi il repository, infine il nome dell'immagine: `<container-registry>/<repository>/<image-name>`. Di seguito è riportato un esempio `mcr.microsoft.com/azure-cognitive-services/keyphrase` che rappresenta l'immagine Estrazione frasi chiave nel Registro Contenitori Microsoft nel repository di Servizi di Azure AI. Un altro esempio è `containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text` che rappresenta l'immagine riconoscimento vocale nel repository Microsoft del registro contenitori di Anteprima contenitori.
Tipo di sistema operativo	`Linux`
Dimensione	Passare alle dimensioni consigliate per il contenitore specifico di Azure per intelligenza artificiale: 2 core CPU 4 GB

Nella scheda Networking, immettere i seguenti dettagli:

Impostazione Valore

Porti Impostare la porta TCP su 5000. Espone il contenitore sulla porta 5000.

Impostazione	Valore
Porti	Impostare la porta TCP su `5000`. Espone il contenitore sulla porta 5000.

Nella scheda Avanzate immettere le variabili di ambiente necessarie per le impostazioni di fatturazione del contenitore della risorsa Istanza di Azure Container:

Chiave	valore
`ApiKey`	Copiato dalla pagina Chiavi ed endpoint della risorsa. Si tratta di una stringa di 32 caratteri alfanumerici senza spazi o trattini, `xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx`.
`Billing`	L'URL dell'endpoint copiato dalla pagina Chiavi ed endpoint della risorsa.
`Eula`	`accept`

Selezionare Rivedi e crea.
Al termine della convalida, fare clic su Crea per completare il processo di creazione
Quando la risorsa viene distribuita correttamente, è pronta

Creare una risorsa Istanza di Container di Azure Container dall'interfaccia della riga di comando di Azure

Il codice YAML seguente definisce la risorsa Istanza di Container di Azure. Copiare e incollare il contenuto in un nuovo file denominato my-aci.yaml e sostituire i valori commentati con i propri. Fare riferimento al formato del modello per YAML valido. Fare riferimento ai repository e alle immagini del contenitore per i nomi delle immagini disponibili e il repository corrispondente. Per altre informazioni sul riferimento YAML per le istanze di Container, vedere Riferimento YAML: Istanze di Container di Azure.

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Nota

Non tutte le posizioni hanno la stessa disponibilità di CPU e memoria. Fare riferimento alla tabella posizioni e risorse per l'elenco delle risorse disponibili per i contenitori in base alla posizione e al sistema operativo.

Il comando az container create si baserà sul file YAML creato. Dall'interfaccia della riga di comando di Azure, eseguire il comando az container create sostituendo il <resource-group> con il proprio. Inoltre, per proteggere i valori all'interno di una distribuzione YAML, vedere i valori protetti.

az container create -g <resource-group> -f my-aci.yaml

Se valido, l'output del comando è Running... e dopo qualche tempo l'output si converte in una stringa JSON che rappresenta la risorsa ACI appena creata. L'immagine del contenitore è probabile che non sia disponibile per un po' di tempo, ma la risorsa viene ora distribuita.

Suggerimento

Prestare particolare attenzione alle posizioni dei Servizi di Azure AI in anteprima pubblica, poiché è necessario modificare YAML di conseguenza in modo che corrisponda alla posizione.

Selezionare Panoramica e copiare l'indirizzo IP. Sarà un indirizzo IP numerico, ad esempio 55.55.55.55.
Aprire una nuova scheda del browser e usare l'indirizzo IP, ad esempio http://<IP-address>:5000 (http://55.55.55.55:5000. Verrà visualizzata la home page del contenitore, che informa che il contenitore è in esecuzione.
Selezionare Descrizione API servizio per visualizzare la pagina swagger per il contenitore.
Selezionare una delle API POST e selezionare Prova. I parametri vengono visualizzati includendo l'input. Specificare i parametri.
Selezionare Esegui per inviare la richiesta all'istanza del contenitore.

I contenitori di Azure per intelligenza artificiale sono stati creati e usati correttamente nell'istanza di Azure Container.

Verificare che il contenitore sia in esecuzione

Per verificare se il contenitore è in esecuzione, sono disponibili diverse opzioni. Individuare l'indirizzo IP esterno e la porta esposta del contenitore in questione, quindi aprire il Web browser di scelta. Usare i vari URL di richiesta seguenti per verificare che il contenitore sia in esecuzione. Gli URL di richiesta di esempio elencati di seguito sono http://localhost:5000, ma il proprio contenitore specifico potrebbe variare. Assicurarsi di usare l'indirizzo IP esterno e la porta esposta del contenitore.

Richiesta URL	Scopo
`http://localhost:5000/`	Il contenitore fornisce un home page.
`http://localhost:5000/ready`	Questo URL, richiesto con un'operazione GET, verifica che il contenitore sia pronto per accettare una query sul modello. Questa richiesta può essere usata per i probe di attività e di idoneità di Kubernetes.
`http://localhost:5000/status`	Questo URL, anch'esso richiesto con un'operazione GET, verifica se la chiave API usata per avviare il contenitore sia valida senza che sia necessaria una query sull'endpoint. Questa richiesta può essere usata per i probe di attività e di idoneità di Kubernetes.
`http://localhost:5000/swagger`	Il contenitore fornisce un set completo di documentazione per gli endpoint e una funzionalità Prova. Con questa funzionalità, è possibile immettere le impostazioni in un modulo HTML basato sul Web ed eseguire la query senza scrivere codice. Dopo che la query restituisce il risultato, viene fornito un comando CURL di esempio per illustrare il formato richiesto per il corpo e le intestazioni HTTP.

Home page del contenitore

Nota

Se si esegue Analisi del testo per il contenitore di integrità, usare l'URL seguente per inviare query: http://localhost:5000/text/analytics/v3.2-preview.1/entities/health

Condividi tramite