ND H100 v5 serisi sanal makine (VM), Azure GPU ailesine eklenen yeni bir amiral gemisidir. Bu seri, üst düzey Derin Öğrenme eğitimi ve sıkı bir şekilde birleştirilmiş ölçek artırma ve ölçeği genişletme Üretken Yapay Zeka ve HPC iş yükleri için tasarlanmıştır.
ND H100 v5 serisi tek bir VM ve sekiz NVIDIA H100 Tensor Core GPU ile başlar. ND H100 v5 tabanlı dağıtımlar, VM başına 3,2 Tbps ara bağlantı bant genişliği ile binlerce GPU'ya kadar ölçeklendirilebilir. VM içindeki her GPU kendi ayrılmış, topolojiden bağımsız 400 Gb/sn NVIDIA Quantum-2 CX7 InfiniBand bağlantısı ile sağlanır. Bu bağlantılar, aynı sanal makine ölçek kümesini kaplayan VM'ler arasında otomatik olarak yapılandırılır ve GPU Doğrudan RDMA'yı destekler.
Her GPU, VM içindeki iletişim için NVLINK 4.0 bağlantısına sahiptir ve örnekte 96 fiziksel dördüncü Nesil Intel Xeon Ölçeklenebilir işlemci çekirdeği vardır.
Bu örnekler TensorFlow, Pytorch, Caffe, RAPIDS ve diğer çerçeveler gibi GPU hızlandırmayı destekleyen 'kullanıma hazır' GPU hızlandırmasını destekleyen birçok yapay zeka, ML ve analiz aracı için mükemmel performans sağlar. Buna ek olarak, ölçek genişletme InfiniBand bağlantısı, GPU'ların sorunsuz kümelenmesi için NVIDIA'nın NCCL iletişim kitaplıkları üzerinde oluşturulmuş olan büyük bir yapay zeka ve HPC araçlarını destekler.
1Geçici disk hızı genellikle RR (Rastgele Okuma) ile RW (Rastgele Yazma) işlemleri arasında farklılık gösterir. RR işlemleri genellikle RW işlemlerinden daha hızlıdır. RW hızı genellikle yalnızca RR hız değerinin listelendiği serideki RR hızından daha yavaştır.
Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.
Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.
Depolama kapasitesi GiB veya 1024^3 bayt cinsinden gösterilmiştir. GB (1000^3 bayt) olarak ölçülen diskleri GiB (1024^3) cinsinden ölçülen disklerle karşılaştırdığınızda, GiB cinsinden verilen kapasite numaralarının daha küçük görünebileceğini unutmayın. Örneğin, 1023 GiB = 1098,4 GB.
Disk aktarım hızı, saniye başına giriş/çıkış işlemi sayısı (IOPS) ve MB/sn (MB/sn = 10^6 bayt/sn) üzerinden ölçülür.
Veri diskleri önbelleğe alınmış veya alınmamış modlarda çalışabilir. Önbelleğe alınmış veri diski işlemi için ana bilgisayar önbelleği SaltOkunur veya OkuYaz moduna ayarlanır. Önbelleğe alınmamış veri diski işlemi için ana bilgisayar önbelleği Yok moduna ayarlanır.
Beklenen ağ bant genişliği, tüm hedefler için tüm NIC'ler genelinde VM türü başına ayrılan maksimum toplam bant genişliğidir. Daha fazla bilgi için bkz. Sanal makine ağ bant genişliği
Üst sınırlar garanti değildir. Sınırlar, hedeflenen uygulama için doğru VM türünü seçmeye yönelik rehberlik sunar. Gerçek ağ performansı, ağ tıkanıklığı, uygulama yükleri ve ağ ayarları gibi çeşitli faktörlere bağlıdır. Ağ aktarım hızını iyileştirme hakkında bilgi için bkz . Azure sanal makineleri için ağ aktarım hızını iyileştirme.
Linux veya Windows'ta beklenen ağ performansını elde etmek için belirli bir sürümü seçmeniz veya VM'nizi iyileştirmeniz gerekebilir. Daha fazla bilgi için bkz . Bant genişliği/aktarım hızı testi (NTTTCP).
Her boyut için hızlandırıcı (GPU'lar, FPGA'lar vb.) bilgileri