Installare ed eseguire il contenitore Analisi spaziale (anteprima)

Azure Stack Edge è una soluzione hardware come servizio e un dispositivo di elaborazione perimetrale abilitato per l'intelligenza artificiale con funzionalità di trasferimento dei dati di rete. Per istruzioni dettagliate sulla preparazione e la configurazione, vedere la documentazione di Azure Stack Edge.

Requisiti hardware minimi

• 4 GB di RAM di sistema
• 4 GB di RAM GPU
• CPU 8 core
• Una GPU con supporto per NVIDIA CUDA 6.0 o versione successiva, ad esempio NVIDIA Tesla T4, A2, 1080Ti o 2080Ti
• 20 GB di spazio HDD

Hardware consigliato

• 32 GB di RAM di sistema
• 16 GB di RAM GPU
• CPU 8 core
• Due GPU con supporto per il calcolo NVIDIA CUDA 6.0 o versioni successive, ad esempio NVIDIA Tesla T4, A2, 1080Ti o 2080Ti
• 50 GB di spazio SSD

In questo articolo verranno scaricati e installati i pacchetti software seguenti. Il computer host deve essere in grado di eseguire quanto segue (vedere di seguito per istruzioni):

• Driver di grafica NVIDIA e NVIDIA CUDA Toolkit. La versione minima del driver GPU è 460 con CUDA 11.1.
• Configurazioni per NVIDIA MPS (Multi-Process Service).
• Docker CE e NVIDIA-Docker2
• Runtime di Azure IoT Edge

In questo esempio si userà una macchina virtuale serie NCv3 con una GPU v100.

Configurare il calcolo nel portale di Azure Stack Edge

L'analisi spaziale usa le funzionalità di calcolo di Azure Stack Edge per eseguire una soluzione di IA. Per abilitare le funzionalità di calcolo, assicurarsi che:

• Il dispositivo Azure Stack Edge è stato connesso e attivato.
• Per accedere al dispositivo, si dispone di un sistema client Windows che esegue PowerShell 5.0 o versione successiva.
• Per distribuire un cluster Kubernetes, è necessario configurare il dispositivo Azure Stack Edge tramite l'interfaccia utente locale nel portale di Azure:
  1. Abilitare la funzionalità di calcolo nel dispositivo Azure Stack Edge. Per abilitare il calcolo, passare alla pagina Calcolo nell'interfaccia Web per il dispositivo.
  2. Selezionare un'interfaccia di rete che si vuole abilitare per il calcolo, quindi selezionare Abilita. Ciò crea un commutatore sul dispositivo, su tale interfaccia di rete.
  3. Lasciare vuoti gli indirizzi IP del nodo di test Kubernetes e gli indirizzi IP dei servizi esterni Kubernetes.
  4. Selezionare Applica. Questa operazione può richiedere circa due minuti.

Configurare il ruolo Azure Stack Edge e creare una risorsa dell'hub IoT

Nel portale di Azure passare alla risorsa Azure Stack Edge. Nella pagina Panoramica o nell'elenco di spostamento selezionare il pulsante Introduzione al calcolo Edge. Nel riquadro Configura calcolo Edge, selezionare Configura.

Nella pagina Configura calcolo Edge scegliere un hub IoT esistente o scegliere di crearne uno nuovo. Per impostazione predefinita, viene usato un piano tariffario Standard (S1) per creare una risorsa dell'hub IoT. Per usare una risorsa hub IoT di livello gratuito, crearne una e quindi selezionarla. La risorsa dell'hub IoT usa la stessa sottoscrizione e lo stesso gruppo di risorse usato dalla risorsa Azure Stack Edge

Seleziona Crea. La creazione di risorse dell'hub IoT può richiedere alcuni minuti. Dopo aver creato la risorsa dell'hub IoT, il riquadro Configura calcolo Edge verrà aggiornato per visualizzare la nuova configurazione. Per verificare che il ruolo calcolo Edge sia stato configurato, selezionare Visualizza configurazione nel riquadro Configura calcolo.

Quando il ruolo di calcolo Edge è configurato nel dispositivo Edge, crea due dispositivi: un dispositivo IoT e un dispositivo IoT Edge. Entrambi i dispositivi possono essere visualizzati nella risorsa dell'hub IoT. Il runtime di Azure IoT Edge sarà già in esecuzione nel dispositivo IoT Edge.

Abilitare MPS in Azure Stack Edge

Seguire questa procedura per connettersi in remoto da un client Windows.

1. Avviare una sessione di Windows PowerShell come amministratore.

2. Assicurarsi che il servizio Gestione remota Windows sia in esecuzione nel client. Al prompt dei comandi digitare:

   winrm quickconfig
   

   Per altre informazioni, vedere Installazione e configurazione di Gestione remota Windows.

3. Assegnare una variabile alla stringa di connessione usata nel file hosts.

   $Name = "<Node serial number>.<DNS domain of the device>"
   

   Sostituire <Node serial number> e <DNS domain of the device> con il numero di serie del nodo e il dominio DNS del dispositivo. È possibile ottenere i valori per il numero di serie del nodo dalla pagina Certificati e dal dominio DNS dalla pagina Dispositivo nell'interfaccia utente Web locale del dispositivo.

4. Per aggiungere questa stringa di connessione per il dispositivo all'elenco di host attendibili del client, digitare il comando seguente:

   Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   

5. Avviare una sessione di Windows PowerShell nel dispositivo:

   Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   

   Se viene visualizzato un errore correlato alla relazione di trust, verificare se anche la catena di firma del certificato del nodo caricato nel dispositivo viene installata nel client che accede al dispositivo.

6. Fornire la password quando viene richiesto. Usare la stessa password usata per accedere all'interfaccia utente Web locale. La password predefinita dell'interfaccia utente Web locale è Password1. Quando si esegue correttamente la connessione al dispositivo usando PowerShell remoto, viene visualizzato l'output di esempio seguente:

   Windows PowerShell
   Copyright (C) Microsoft Corporation. All rights reserved.
   
   PS C:\WINDOWS\system32> winrm quickconfig
   WinRM service is already running on this machine.
   PS C:\WINDOWS\system32> $Name = "1HXQG13.wdshcsso.com"
   PS C:\WINDOWS\system32> Set-Item WSMan:\localhost\Client\TrustedHosts $Name -Concatenate -Force
   PS C:\WINDOWS\system32> Enter-PSSession -ComputerName $Name -Credential ~\EdgeUser -ConfigurationName Minishell -UseSSL
   
   WARNING: The Windows PowerShell interface of your device is intended to be used only for the initial network configuration. Please engage Microsoft Support if you need to access this interface to troubleshoot any potential issues you may be experiencing. Changes made through this interface without involving Microsoft Support could result in an unsupported configuration.
   [1HXQG13.wdshcsso.com]: PS>
   

Seguire queste istruzioni se il computer host non è un dispositivo Azure Stack Edge.

Installare NVIDIA CUDA Toolkit e i driver di grafica Nvidia nel computer host

Usare lo script bash seguente per installare i driver di grafica Nvidia necessari e CUDA Toolkit.

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-ubuntu1804.pin
sudo mv cuda-ubuntu1804.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/3bf863cc.pub
sudo add-apt-repository "deb http://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda

Riavviare il computer ed eseguire il comando seguente.

nvidia-smi

Viene visualizzato l'output seguente.

Installare Docker CE e nvidia-docker2 nel computer host

Installare Docker CE nel computer host.

sudo apt-get update
sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io

Installare il pacchetto software nvidia-docker-2.

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y docker-ce nvidia-docker2
sudo systemctl restart docker

Abilitare NVIDIA MPS nel computer host

Per ottenere prestazioni e utilizzo ottimali, configurare le GPU del computer host per il servizio NVIDIA Multiprocess (MPS). Eseguire le istruzioni MPS da una finestra del terminale nel computer host.

# Set GPU(s) compute mode to EXCLUSIVE_PROCESS
sudo nvidia-smi --compute-mode=EXCLUSIVE_PROCESS

# Cronjob for setting GPU(s) compute mode to EXCLUSIVE_PROCESS on boot
echo "SHELL=/bin/bash" > /tmp/nvidia-mps-cronjob
echo "PATH=/usr/local/sbin:/usr/local/bin:/sbin:/bin:/usr/sbin:/usr/bin" >> /tmp/nvidia-mps-cronjob
echo "@reboot   root    nvidia-smi --compute-mode=EXCLUSIVE_PROCESS" >> /tmp/nvidia-mps-cronjob

sudo chown root:root /tmp/nvidia-mps-cronjob
sudo mv /tmp/nvidia-mps-cronjob /etc/cron.d/

# Service entry for automatically starting MPS control daemon
echo "[Unit]" > /tmp/nvidia-mps.service
echo "Description=NVIDIA MPS control service" >> /tmp/nvidia-mps.service
echo "After=cron.service" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Service]" >> /tmp/nvidia-mps.service
echo "Restart=on-failure" >> /tmp/nvidia-mps.service
echo "ExecStart=/usr/bin/nvidia-cuda-mps-control -f" >> /tmp/nvidia-mps.service
echo "" >> /tmp/nvidia-mps.service
echo "[Install]" >> /tmp/nvidia-mps.service
echo "WantedBy=multi-user.target" >> /tmp/nvidia-mps.service

sudo chown root:root /tmp/nvidia-mps.service
sudo mv /tmp/nvidia-mps.service /etc/systemd/system/

sudo systemctl --now enable nvidia-mps.service

Configurare Azure IoT Edge nel computer host

Per distribuire il contenitore analisi spaziale nel computer host, creare un'istanza di un servizio hub IoT di Azure usando il piano tariffario Standard (S1) o Gratuito (F0).

Usare l'interfaccia della riga di comando di Azure per creare un'istanza dell'hub IoT di Azure. Sostituire i parametri dove appropriato. In alternativa, è possibile creare l'hub IoT di Azure nel portale di Azure.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Vedere Supporto dell'area per le aree disponibili.

sudo az iot hub create --name "<iothub-group-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

È necessario installare Azure IoT Edge versione 1.0.9. Seguire questa procedura per scaricare la versione corretta:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Copiare l'elenco generato.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Installare la chiave pubblica GPG Microsoft.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Aggiornare gli elenchi di pacchetti nel dispositivo.

sudo apt-get update

Installare la versione 1.0.9:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Registrare quindi il computer host come dispositivo IoT Edge nell'istanza dell'hub IoT usando una stringa di connessione.

È necessario connettere il dispositivo IoT Edge all'hub IoT di Azure. È necessario copiare la stringa di connessione dal dispositivo IoT Edge creato in precedenza. In alternativa, è possibile eseguire il comando seguente nell'interfaccia della riga di comando di Azure.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

Nel computer host aperto /etc/iotedge/config.yaml per la modifica. Sostituire ADD DEVICE CONNECTION STRING HERE con la stringa di connessione. Salva e chiudi il file. Eseguire questo comando per riavviare il servizio IoT Edge nel computer host.

sudo systemctl restart iotedge

Distribuire il contenitore analisi spaziale come modulo IoT nel computer host, dal portale di Azure o dall'interfaccia della riga di comando di Azure. Se si usa il portale, impostare l'URI dell'immagine sul percorso del Registro Azure Container.

Usare la procedura seguente per distribuire il contenitore usando l'interfaccia della riga di comando di Azure.

È anche possibile usare una macchina virtuale di Azure con una GPU per eseguire l'analisi spaziale. L'esempio seguente userà una macchina virtuale serie NCv3 con una GPU v100.

Creare la macchina virtuale

Aprire la procedura guidata Crea macchina virtuale nel portale di Azure.

Assegnare alla macchina virtuale un nome e selezionare l'area da usare (Stati Uniti) Stati Uniti occidentali 2.

Per individuare le dimensioni della macchina virtuale, selezionare "Visualizza tutte le dimensioni" e quindi visualizzare l'elenco per "Serie N" e selezionare NC6s_v3, illustrato di seguito.

Creare quindi la macchina virtuale. Dopo aver creato, passare alla risorsa macchina virtuale nel portale di Azure e selezionare Extensions nel riquadro sinistro. Selezionare "Aggiungi" per visualizzare la finestra delle estensioni con tutte le estensioni disponibili. Cercare e selezionare NVIDIA GPU Driver Extension, selezionare Crea e completare la procedura guidata.

Dopo aver applicato correttamente l'estensione, passare alla pagina principale della macchina virtuale nel portale di Azure e selezionare Connect. È possibile accedere alla macchina virtuale tramite SSH o RDP. RDP è utile perché abilita la visualizzazione della finestra del visualizzatore (spiegata più avanti). Configurare l'accesso RDP seguendo questa procedura e aprendo una connessione Desktop remoto alla macchina virtuale.

Verificare che i driver di grafica siano installati

Eseguire il comando seguente per verificare che i driver di grafica siano stati installati correttamente.

nvidia-smi

Viene visualizzato l'output seguente.

Installare Docker CE e nvidia-docker2 nella macchina virtuale

Eseguire i comandi seguenti uno alla volta per installare Docker CE e nvidia-docker2 nella macchina virtuale.

Installare Docker CE nel computer host.

sudo apt-get update

sudo apt-get install -y apt-transport-https ca-certificates curl gnupg-agent software-properties-common

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable"

sudo apt-get update

sudo apt-get install -y docker-ce docker-ce-cli containerd.io

Installare il pacchetto software nvidia-docker-2.

DISTRIBUTION=$(. /etc/os-release;echo $ID$VERSION_ID)

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -

curl -s -L https://nvidia.github.io/nvidia-docker/$DISTRIBUTION/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update

sudo apt-get install -y docker-ce nvidia-docker2

sudo systemctl restart docker

Dopo aver configurato e configurato la macchina virtuale, seguire questa procedura per configurare Azure IoT Edge.

Configurare Azure IoT Edge nella macchina virtuale

Per distribuire il contenitore analisi spaziale nella macchina virtuale, creare un'istanza di un servizio hub IoT di Azure usando il piano tariffario Standard (S1) o Gratuito (F0).

Usare l'interfaccia della riga di comando di Azure per creare un'istanza dell'hub IoT di Azure. Sostituire i parametri dove appropriato. In alternativa, è possibile creare l'hub IoT di Azure nel portale di Azure.

curl -sL https://aka.ms/InstallAzureCLIDeb | sudo bash

sudo az login

sudo az account set --subscription "<name or ID of Azure Subscription>"

sudo az group create --name "<resource-group-name>" --location "<your-region>"

Vedere Supporto dell'area per le aree disponibili.

sudo az iot hub create --name "<iothub-name>" --sku S1 --resource-group "<resource-group-name>"

sudo az iot hub device-identity create --hub-name "<iothub-name>" --device-id "<device-name>" --edge-enabled

È necessario installare Azure IoT Edge versione 1.0.9. Seguire questa procedura per scaricare la versione corretta:

Ubuntu Server 18.04:

curl https://packages.microsoft.com/config/ubuntu/18.04/multiarch/prod.list > ./microsoft-prod.list

Copiare l'elenco generato.

sudo cp ./microsoft-prod.list /etc/apt/sources.list.d/

Installare la chiave pubblica GPG Microsoft.

curl https://packages.microsoft.com/keys/microsoft.asc | gpg --dearmor > microsoft.gpg

sudo cp ./microsoft.gpg /etc/apt/trusted.gpg.d/

Aggiornare gli elenchi di pacchetti nel dispositivo.

sudo apt-get update

Installare la versione 1.0.9:

sudo apt-get install iotedge=1.1* libiothsm-std=1.1*

Registrare quindi la macchina virtuale come dispositivo IoT Edge nell'istanza dell'hub IoT usando una stringa di connessione.

È necessario connettere il dispositivo IoT Edge all'hub IoT di Azure. È necessario copiare la stringa di connessione dal dispositivo IoT Edge creato in precedenza. In alternativa, è possibile eseguire il comando seguente nell'interfaccia della riga di comando di Azure.

sudo az iot hub device-identity connection-string show --device-id my-edge-device --hub-name test-iot-hub-123

Nella macchina virtuale aperta /etc/iotedge/config.yaml per la modifica. Sostituire ADD DEVICE CONNECTION STRING HERE con la stringa di connessione. Salva e chiudi il file. Eseguire questo comando per riavviare il servizio IoT Edge nella macchina virtuale.

sudo systemctl restart iotedge

Distribuire il contenitore di analisi spaziale come modulo IoT nella macchina virtuale, dal portale di Azure o dall'interfaccia della riga di comando di Azure. Se si usa il portale, impostare l'URI dell'immagine sul percorso del Registro Azure Container.

Usare la procedura seguente per distribuire il contenitore usando l'interfaccia della riga di comando di Azure.