Virtuell GPU-dator på Azure Stack Hub

I den här artikeln beskrivs vilka GPU-modeller (graphics processing unit) som stöds i ett integrerat Azure Stack Hub-system. Artikeln innehåller också instruktioner om hur du installerar de drivrutiner som används med GPU:er. GPU-stöd i Azure Stack Hub möjliggör lösningar som artificiell intelligens, utbildning, slutsatsdragning och datavisualisering. AMD Radeon Instinct MI25 kan användas för att stödja grafikintensiva program som Autodesk AutoCAD.

Du kan välja mellan tre GPU-modeller. De finns i NVIDIA V100, NVIDIA T4 och AMD MI25 GPU:er. Dessa fysiska GPU:er överensstämmer med följande typer av virtuella datorer i Azure N-serien (VM):

• NCv3
• NVv4 (AMD MI25)
• NCasT4_v3

NCv3

Virtuella datorer i NCv3-serien drivs av NVIDIA Tesla V100 GPU:er. Kunder kan dra nytta av dessa uppdaterade GPU:er för traditionella HPC-arbetsbelastningar som reservoarmodellering, DNA-sekvensering, proteinanalys, Monte Carlo-simuleringar och andra.

NVv4

De virtuella datorerna i NVv4-serien drivs av AMD Radeon Instinct MI25 GPU:er. Med NVv4-serien introducerar Azure Stack Hub virtuella datorer med partiella GPU:er. Den här storleken kan användas för GPU-accelererade grafikprogram och virtuella skrivbord. Virtuella NVv4-datorer stöder för närvarande endast Windows gästoperativsystem.

NCasT4_v3

NC_A100 v4

De virtuella datorerna i NC_A100-serien drivs av NVIDIA Ampere A100 GPU:er, efterföljaren till Tesla V100 GPU:er. Du kan dra nytta av dessa uppdaterade GPU:er för traditionella HPC-arbetsbelastningar som reservoarmodellering, DNA-sekvensering, proteinanalys, Monte Carlo-simuleringar och andra.

NC_L40S v4

GPU-systemöverväganden

• GPU måste vara en av dessa SKU:er: AMD MI-25, Nvidia V100 (och varianter), Nvidia T4.
• Antal GPU:er per server som stöds (1, 2, 3, 4). Vi föredrar: 1, 2 och 4.
• Alla GPU:er måste ha exakt samma SKU i hela skalningsenheten.
• Alla GPU-kvantiteter per server måste vara desamma i hela skalningsenheten.
• GPU-partitionsstorleken (för AMD Mi25) måste vara densamma för alla virtuella GPU-datorer i skalningsenheten.

Kapacitetsplanering

Kapacitetshanteraren för Azure Stack Hub har uppdaterats för att stödja GPU-konfigurationer. Det är tillgängligt här.

Lägga till GPU:er på en befintlig Azure Stack Hub

Azure Stack Hub har nu stöd för att lägga till GPU:er i alla befintliga system. Om du vill lägga till en GPU kör stop-azurestackdu , kör genom proceduren stop-azurestackför , lägger till GPU:er och kör start-azurestack sedan tills den är klar. Om systemet redan hade GPU:er måste alla tidigare skapade virtuella GPU-datorer vara stop-deallocated och sedan startas om.

Korrigering och uppdatering, FRU-beteende för virtuella datorer

Virtuella GPU-datorer undergår driftstopp under åtgärder som korrigering och uppdatering (PnU) och maskinvaruersättning (FRU) för Azure Stack Hub. I följande tabell beskrivs tillståndet för den virtuella datorn enligt vad som observerats under dessa aktiviteter och den manuella åtgärd du kan göra för att göra dessa virtuella datorer tillgängliga efter åtgärden.

Installation av gästdrivrutin

Följande PowerShell-cmdletar kan användas för drivrutinsinstallation:

$VmName = <VM Name In Portal>
$ResourceGroupName = <Resource Group of VM>
$Location = "redmond"
$driverName = <Give a name to the driver>
$driverPublisher = "Microsoft.HpcCompute"
$driverType = <Specify Driver Type> #GPU Driver Types: "NvidiaGpuDriverWindows"; "NvidiaGpuDriverLinux"; "AmdGpuDriverWindows"
$driverVersion = <Specify Driver Version> #Nvidia Driver Version:"1.3"; AMD Driver Version:"1.0"

Set-AzureRmVMExtension  -Location $Location `
                            -Publisher $driverPublisher `
                            -ExtensionType $driverType `
                            -TypeHandlerVersion $driverVersion `
                            -VMName $VmName `
                            -ResourceGroupName $ResourceGroupName `
                            -Name $driverName `
                            -Settings $Settings ` # If no settings are set, omit this parameter
                            -Verbose

Beroende på operativsystem, typ och anslutning för din virtuella Azure Stack Hub GPU-dator måste du ersätta dessa värden med inställningarna nedan.

AMD MI25

Gästdrivrutinsversionen måste matcha Azure Stack Hub-versionen, oavsett anslutningstillstånd. Om du använder nyare versioner som inte är anpassade till Azure Stack Hub-versionen kan det orsaka användbarhetsproblem.

Connected

Använd PowerShell-skriptet i föregående avsnitt med lämplig drivrutinstyp för AMD. Artikeln Installera AMD GPU-drivrutiner på virtuella datorer i N-serien som kör Windows innehåller instruktioner om hur du installerar drivrutinen för AMD Radeon Instinct MI25 i den virtuella datorn NVv4 GPU-P, tillsammans med anvisningar om hur du verifierar drivrutinsinstallationen.

Frånkopplad

Eftersom tillägget hämtar drivrutinen från en plats på Internet kan en virtuell dator som är frånkopplad från det externa nätverket inte komma åt den. Du kan ladda ned drivrutinen från föregående tabell och ladda upp till ett lagringskonto i ditt lokala nätverk som är tillgängligt för den virtuella datorn.

Lägg till AMD-drivrutinen till ett lagringskonto och ange URL:en till kontot i Settings. De här inställningarna måste användas i cmdleten Set-AzureRMVMExtension . Till exempel:

$Settings = @{
"DriverURL" = <URL to driver in storage account>
}

NVIDIA

NVIDIA-drivrutiner måste installeras i den virtuella datorn för CUDA- eller GRID-arbetsbelastningar med hjälp av GPU:n.

Användningsfall: rutnät för grafik/visualisering

Det här scenariot kräver användning av GRID-drivrutiner. GRID-drivrutiner kan laddas ned via NVIDIA Application Hub förutsatt att du har de licenser som krävs. GRID-drivrutinerna kräver också en GRID-licensserver med lämpliga GRID-licenser innan du använder GRID-drivrutinerna på den virtuella datorn.

$Settings = @{
"DriverURL" = "https://download.microsoft.com/download/e/8/2/e8257939-a439-4da8-a927-b64b63743db1/431.79_grid_win10_server2016_server2019_64bit_international.exe"; "DriverCertificateUrl" = "https://go.microsoft.com/fwlink/?linkid=871664"; 
"DriverType"="GRID"
}

Användningsfall: compute/CUDA – Ansluten

CUDA-drivrutiner behöver ingen licensserver och behöver inte ändrade inställningar.

Användningsfall: beräkning/CUDA – Frånkopplad

Länkar till NVIDIA CUDA-drivrutiner kan hämtas med hjälp av länken: https://raw.githubusercontent.com/Azure/azhpc-extensions/master/NvidiaGPU/resources.json

Windows:

$Settings = @{
"DriverURL" = "";
"DriverCertificateUrl" = "https://go.microsoft.com/fwlink/?linkid=871664"; 
"DriverType"="CUDA"
}

Linux:

Du måste referera till några URL:er för dina inställningar:

Lägg till URL:erna i inställningarna.

$Settings=@{
"isCustomInstall"=$true;
"DRIVER_URL"="https://go.microsoft.com/fwlink/?linkid=874273";
"CUDA_ver"="10.0.130";
"PUBKEY_URL"="http://download.microsoft.com/download/F/F/A/FFAC979D-AD9C-4684-A6CE-C92BB9372A3B/7fa2af80.pub";
"DKMS_URL"="https://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm";
"LIS_URL"="https://aka.ms/lis";
"LIS_RHEL_ver"="3.10.0-1062.9.1.el7"
}

Nästa steg

• Funktioner för virtuella Azure Stack-datorer
• Distribuera en GPU-aktiverad IoT-modul på Azure Stack Hub