InferenceConfig Sınıf

  • Başvuru

Dağıtım için kullanılan özel bir ortamın yapılandırma ayarlarını temsil eder.

Çıkarım yapılandırması, dağıtımla ilgili eylemler için Model bir giriş parametresidir:

Yapılandırma nesnesini başlatın.

Devralma
builtins.object
InferenceConfig

Oluşturucu

InferenceConfig(entry_script, runtime=None, conda_file=None, extra_docker_file_steps=None, source_directory=None, enable_gpu=None, description=None, base_image=None, base_image_registry=None, cuda_version=None, environment=None)

Parametreler

Name Description
entry_script
Gerekli
str

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime
str

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.

Default value: None
conda_file
str

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.

Default value: None
extra_docker_file_steps
str

Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.

Default value: None
source_directory
str

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.

Default value: None
enable_gpu
bool

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur.

Default value: None
description
str

Bu görüntüyü vermek için bir açıklama.

Default value: None
base_image
str

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.

Default value: None
base_image_registry
ContainerRegistry

Temel görüntüyü içeren görüntü kayıt defteri.

Default value: None
cuda_version
str

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.

Default value: None
environment
Environment

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

Default value: None
entry_script
Gerekli
str

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime
Gerekli
str

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.
conda_file
Gerekli
str

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.
extra_docker_file_steps
Gerekli
str

Görüntü ayarlanırken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.
source_directory
Gerekli
str

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.
enable_gpu
Gerekli
bool

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Varsayılan değer False'tur.
description
Gerekli
str

Bu görüntüyü vermek için bir açıklama.
base_image
Gerekli
str

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.
base_image_registry
Gerekli
ContainerRegistry

Temel görüntüyü içeren görüntü kayıt defteri.
cuda_version
Gerekli
str

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA Sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.
environment
Gerekli
Environment

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri belirtin, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

Açıklamalar

Aşağıdaki örnekte InferenceConfig nesnesinin nasıl oluşturulacağı ve modeli dağıtmak için nasıl kullanılacağı gösterilmektedir.


   from azureml.core.model import InferenceConfig
   from azureml.core.webservice import AciWebservice


   service_name = 'my-custom-env-service'

   inference_config = InferenceConfig(entry_script='score.py', environment=environment)
   aci_config = AciWebservice.deploy_configuration(cpu_cores=1, memory_gb=1)

   service = Model.deploy(workspace=ws,
                          name=service_name,
                          models=[model],
                          inference_config=inference_config,
                          deployment_config=aci_config,
                          overwrite=True)
   service.wait_for_deployment(show_output=True)

Değişkenler

Name Description
entry_script
str

Görüntü için çalıştırılacak kodu içeren yerel dosyanın yolu.
runtime
str

Görüntü için kullanılacak çalışma zamanı. Desteklenen geçerli çalışma zamanları 'spark-py' ve 'python'dır.
conda_file
str

Görüntü için kullanılacak conda ortam tanımını içeren yerel dosyanın yolu.
extra_docker_file_steps
str

Görüntüyü ayarlarken çalıştırılacak ek Docker adımlarını içeren yerel dosyanın yolu.
source_directory
str

Görüntüyü oluşturmak için tüm dosyaları içeren klasörün yolu.
enable_gpu
bool

Görüntüde GPU desteğinin etkinleştirilip etkinleştirilmeydiğini gösterir. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır.
azureml.core.model.InferenceConfig.description

Bu görüntüyü vermek için bir açıklama.
base_image
str

Temel görüntü olarak kullanılacak özel görüntü. Temel görüntü verilmezse, temel görüntü verilen çalışma zamanı parametresine göre kullanılır.
base_image_registry
ContainerRegistry

Temel görüntüyü içeren görüntü kayıt defteri.
cuda_version
str

GPU desteğine ihtiyaç duyan görüntüler için yüklenecek CUDA sürümü. GPU görüntüsü Azure Container Instances, Azure Machine Learning İşlem, Azure Sanal Makineler ve Azure Kubernetes Service gibi Microsoft Azure Hizmetlerinde kullanılmalıdır. Desteklenen sürümler 9.0, 9.1 ve 10.0'dır. ayarlanırsa enable_gpu , bu varsayılan olarak '9.1' olarak ayarlanır.
azureml.core.model.InferenceConfig.environment

Dağıtım için kullanılacak bir ortam nesnesi. Ortamın kaydedilmesi gerekmez.

Bu parametreyi veya diğer parametreleri sağlayın, ancak ikisini birden sağlamayın. Tek tek parametreler, ortam nesnesi için geçersiz kılma görevi görür. Özel durumlar arasında entry_script, source_directoryve descriptionbulunur.

Yöntemler

build_create_payload

Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.
build_profile_payload

Model paketi için profil oluşturma yükünü oluşturun.
validate_configuration

Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir WebserviceException oluşturur.
validation_script_content

Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir UserErrorException oluşturur.

build_create_payload

Kapsayıcı görüntüsü için oluşturma yükünü oluşturun.

build_create_payload(workspace, name, model_ids)

Parametreler

Name Description
workspace
Gerekli
Workspace

Görüntünün oluşturulacağı çalışma alanı nesnesi.
name
Gerekli
str

Görüntünün adı.
model_ids
Gerekli
list[str]

Görüntüde paketlenen model kimliklerinin listesi.

Döndürülenler

Tür Description
dict

Kapsayıcı görüntüsü oluşturma yükü.

Özel durumlar

Tür Description
WebserviceException

build_profile_payload

Model paketi için profil oluşturma yükünü oluşturun.

build_profile_payload(profile_name, input_data=None, workspace=None, models=None, dataset_id=None, container_resource_requirements=None, description=None)

Parametreler

Name Description
profile_name
Gerekli
str

Profil oluşturma çalıştırmasının adı.
input_data
str

Profil oluşturma için giriş verileri.

Default value: None
workspace
Workspace

Modelin profilinin oluşturulduğu çalışma alanı nesnesi.

Default value: None
models
list[Model]

Model nesnelerinin listesi. Boş bir liste olabilir.

Default value: None
dataset_id
str

Profil oluşturma çalıştırması için giriş verilerini içeren veri kümesiyle ilişkili kimlik.

Default value: None
container_resource_requirements
ContainerResourceRequirements

modelin dağıtılacağı en büyük örnek için kapsayıcı kaynağı gereksinimleri

Default value: None
description
str

Profil oluşturma çalıştırmasıyla ilişkilendirilecek açıklama.

Default value: None

Döndürülenler

Tür Description
dict

Model profili yükü

Özel durumlar

Tür Description
WebserviceException

validate_configuration

Belirtilen yapılandırma değerlerinin geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir WebserviceException oluşturur.

validate_configuration()

Özel durumlar

Tür Description
WebserviceException

validation_script_content

Puan betiğinin söz diziminin ast.parse ile geçerli olup olmadığını denetleyin.

Doğrulama başarısız olursa bir UserErrorException oluşturur.

validation_script_content()

Özel durumlar

Tür Description
UserErrorException