Předem sestavené image Dockeru pro odvozování

  • Článek

Předem připravené image kontejneru Dockeru pro odvozování se používají při nasazování modelu pomocí služby Azure Machine Learning. Image jsou předem připravené s oblíbenými architekturami strojového učení a balíčky Pythonu. Balíčky můžete také rozšířit a přidat další balíčky pomocí jedné z následujících metod:

Proč mám používat předem připravené obrázky?

  • Snižuje latenci nasazení modelu.
  • Zlepšuje úspěšnost nasazení modelu.
  • Vyhněte se zbytečnému sestavování imagí během nasazování modelu.
  • Zahrnuje pouze požadované závislosti a přístup přímo v imagi nebo kontejneru.

Seznam předem připravených imagí Dockeru pro odvozování

Důležité

Seznam uvedený v následující tabulce obsahuje pouze odvozovací image Dockeru, které Azure Machine Learning aktuálně podporuje.

  • Všechny image Dockeru běží jako uživatel, který není root.
  • Doporučujeme použít latest značku pro image Dockeru. Předem připravené image Dockeru pro odvozování se publikují do registru kontejneru Microsoftu (MCR). Informace o tom, jak dotazovat seznam dostupných značek, najdete v úložišti GITHubu MCR.
  • Pokud chcete použít konkrétní značku pro každou odvozenou image Dockeru, Azure Machine Learning podporuje značky, které jsou od latest šesti měsíců starší než latest.

Odvozovat minimální základní image

Verze architektury CPU/GPU Předinstalované balíčky Cesta MCR
NA Procesor NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu20.04-py38-cuda11.6.2-gpu-inference:latest
NA Procesor NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest

Poznámka:

Azure Machine Learning podporuje kurátorovaná prostředí. Můžete procházet kurátorovaná prostředí a přidat filtr pro Tags: Inferencing.

Související obsah