Çıkarım için önceden oluşturulmuş Docker görüntüleri

  • Makale

Azure Machine Learning ile model dağıtılırken çıkarım için önceden oluşturulmuş Docker kapsayıcı görüntüleri kullanılır. Görüntüler popüler makine öğrenmesi çerçeveleri ve Python paketleriyle önceden oluşturulmuş. Aşağıdaki yöntemlerden birini kullanarak paketleri başka paketler eklemek için de genişletebilirsiniz:

Önceden oluşturulmuş görüntüleri neden kullanmalıyım?

  • Model dağıtımı gecikme süresini azaltır
  • Model dağıtımı başarı oranını artırır
  • Model dağıtımı sırasında gereksiz görüntü derlemeyi önler
  • Görüntüde/kapsayıcıda yalnızca gerekli bağımlılıkları ve erişimi içerir

Çıkarım için önceden oluşturulmuş Docker görüntülerinin listesi

Önemli

Aşağıdaki tabloda sağlanan liste yalnızca Azure Machine Learning'in şu anda desteklediği Docker görüntüleri çıkarımı içerir.

  • Tüm Docker görüntüleri kök olmayan kullanıcı olarak çalışır.
  • Docker görüntüleri için etiketini kullanmanızı latest öneririz. Çıkarım için önceden oluşturulmuş Docker görüntüleri Microsoft kapsayıcı kayıt defterinde (MCR) yayımlanır. Kullanılabilir etiketlerin listesini sorgulama hakkında bilgi için bkz . MCR GitHub deposu.
  • Herhangi bir çıkarım Docker görüntüsü için belirli bir etiket kullanmak istiyorsanız Azure Machine Learning, değerinden latest latestaltı ay daha eski olan etiketleri destekler.

Çıkarım minimum temel görüntüler

Çerçeve sürümü CPU/GPU Önceden yüklenmiş paketler MCR Yolu
NA CPU NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest
NA CPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest

Not

Azure Machine Learning, Seçilmiş ortamları destekler. Seçilen ortamlara göz atabilir ve için Tags: Inferencingfiltre ekleyebilirsiniz.

İlgili içerik