Série de tamanhos ND-MI300X-v5
A VM (máquina virtual) da série ND MI300X v5 é o novo carro-chefe da família de GPU do Azure. Ela foi projetada para treinamento de aprendizado profundo de alto nível e cargas de trabalho de HPC e IA generativa de escala vertical e expansão altamente acopladas.
A VM da série ND MI300X v5 começa com oito GPUs AMD Instinct MI300 e dois processadores dimensionáveis Intel Xeon de quarta geração, para um total de 96 núcleos físicos. Em seguida, cada GPU da VM é conectada entre si por meio de links do Infinity Fabric AMD de 4ª geração com largura de banda de 128 GB/s por GPU e largura de banda agregada de 896 GB/s.
As implantações baseadas na série ND MI300X v5 podem ser dimensionadas para milhares de GPUs com uma largura de banda de interconexão de 3,2 TB/s por VM. Cada GPU na VM é fornecida com a própria conexão NVIDIA Quantum-2 CX7 InfiniBand de 400 Gb/s dedicada e independente de topologia. Essas conexões são configuradas automaticamente entre as VMs que ocupam o mesmo conjunto de dimensionamento de máquinas virtuais e dão suporte ao GPUDirect RDMA.
Essas instâncias fornecem um excelente desempenho para muitas ferramentas de IA, ML e análise que dão suporte à aceleração de GPU “pronta para uso”, como o TensorFlow, o PyTorch e outras estruturas. Além disso, a interconexão InfiniBand de expansão dá suporte a um grande conjunto de ferramentas existentes de IA e HPC baseadas nas RCCL (Bibliotecas de Comunicação ROCm) da AMD, permitindo o clustering contínuo das GPUs.
Especificações do host
Parte | Quantidade Unidades de Contagem |
Especificações ID SKU, unidades de desempenho, etc. |
---|---|---|
Processador | 96 vCPUs | Intel Xeon (Sapphire Rapids) [x86-64] |
Memória | 1.850 GiB | |
Armazenamento local | 1 disco temporário 8 Discos NVMe |
Disco Temporário de 1000 GiB Discos NVMe de 28000 GiB |
Armazenamento Remoto | 32 discos | 80.000 IOPS 1.200 MBps |
Rede | 8 NICs | |
Aceleradores | 8 GPUs | GPU AMD Instinct MI300X (192 GB) |
Suporte a recursos
Armazenamento Premium: com suporte
Cache com Armazenamento Premium: com suporte
Migração dinâmica: sem suporte
Atualizações de preservação de memória: sem suporte
VMs de geração 2: com suporte
VMs de geração 1: sem suporte
Rede Acelerada: com suporte
Discos de SO efêmero: aceitos
Virtualização aninhada: sem suporte
Tamanhos em série
vCPUs (Qtd.) e memória para cada tamanho
Tamanho do Nome | vCPUs (Qty.) | Memória (GB) |
---|---|---|
Standard_ND96isr_MI300X_v5 | 96 | 1850 |
Recursos Básicos da VM
Outras informações de tamanho
Lista de todos os tamanhos disponíveis: Tamanhos
Calculadora de Preços: Calculadora de Preços
Informações sobre os tipos de disco: Tipos de Disco
Próximas etapas
Saiba mais sobre como as ACUs (unidade de computação do Azure) podem ajudar você a comparar o desempenho de computação entre SKUs do Azure.
Confira Hosts Dedicados do Azure para servidores físicos com capacidade para hospedar uma ou mais máquinas virtuais atribuídas a uma assinatura do Azure.
Saiba como Monitorar as máquinas virtuais do Azure.