Série de tamanhos ND-MI300X-v5

A VM (máquina virtual) da série ND MI300X v5 é o novo carro-chefe da família de GPU do Azure. Ela foi projetada para treinamento de aprendizado profundo de alto nível e cargas de trabalho de HPC e IA generativa de escala vertical e expansão altamente acopladas.

A VM da série ND MI300X v5 começa com oito GPUs AMD Instinct MI300 e dois processadores dimensionáveis Intel Xeon de quarta geração, para um total de 96 núcleos físicos. Em seguida, cada GPU da VM é conectada entre si por meio de links do Infinity Fabric AMD de 4ª geração com largura de banda de 128 GB/s por GPU e largura de banda agregada de 896 GB/s.

As implantações baseadas na série ND MI300X v5 podem ser dimensionadas para milhares de GPUs com uma largura de banda de interconexão de 3,2 TB/s por VM. Cada GPU na VM é fornecida com a própria conexão NVIDIA Quantum-2 CX7 InfiniBand de 400 Gb/s dedicada e independente de topologia. Essas conexões são configuradas automaticamente entre as VMs que ocupam o mesmo conjunto de dimensionamento de máquinas virtuais e dão suporte ao GPUDirect RDMA.

Essas instâncias fornecem um excelente desempenho para muitas ferramentas de IA, ML e análise que dão suporte à aceleração de GPU “pronta para uso”, como o TensorFlow, o PyTorch e outras estruturas. Além disso, a interconexão InfiniBand de expansão dá suporte a um grande conjunto de ferramentas existentes de IA e HPC baseadas nas RCCL (Bibliotecas de Comunicação ROCm) da AMD, permitindo o clustering contínuo das GPUs.

Especificações do host

Parte Quantidade
Unidades de Contagem
Especificações
ID SKU, unidades de desempenho, etc.
Processador 96 vCPUs Intel Xeon (Sapphire Rapids) [x86-64]
Memória 1.850 GiB
Armazenamento local 1 disco temporário
8 Discos NVMe
Disco Temporário de 1000 GiB
Discos NVMe de 28000 GiB
Armazenamento Remoto 32 discos 80.000 IOPS
1.200 MBps
Rede 8 NICs
Aceleradores 8 GPUs GPU AMD Instinct MI300X (192 GB)

Suporte a recursos

Armazenamento Premium: com suporte
Cache com Armazenamento Premium: com suporte
Migração dinâmica: sem suporte
Atualizações de preservação de memória: sem suporte
VMs de geração 2: com suporte
VMs de geração 1: sem suporte
Rede Acelerada: com suporte
Discos de SO efêmero: aceitos
Virtualização aninhada: sem suporte

Tamanhos em série

vCPUs (Qtd.) e memória para cada tamanho

Tamanho do Nome vCPUs (Qty.) Memória (GB)
Standard_ND96isr_MI300X_v5 96 1850

Recursos Básicos da VM

Outras informações de tamanho

Lista de todos os tamanhos disponíveis: Tamanhos

Calculadora de Preços: Calculadora de Preços

Informações sobre os tipos de disco: Tipos de Disco

Próximas etapas

Saiba mais sobre como as ACUs (unidade de computação do Azure) podem ajudar você a comparar o desempenho de computação entre SKUs do Azure.

Confira Hosts Dedicados do Azure para servidores físicos com capacidade para hospedar uma ou mais máquinas virtuais atribuídas a uma assinatura do Azure.

Saiba como Monitorar as máquinas virtuais do Azure.