CLI ile Azure Container Instances'a model dağıtma (v1)

Azure Container Instances'ta (ACI) bir modeli web hizmeti olarak dağıtmak için Azure Machine Learning'i kullanmayı öğrenin. Aşağıdaki durumlarda Azure Container Instances'i kullanın:

• kendi Kubernetes kümenizi yönetmeyi tercih etme
• Hizmetinizin çalışma süresini etkileyebilecek tek bir çoğaltması olması sorun değil mi?

ACI için kota ve bölge kullanılabilirliği hakkında bilgi için Azure Container Instances için kotalar ve bölge kullanılabilirliği makalesine bakın.

Önkoşullar

• Azure Machine Learning çalışma alanı. Daha fazla bilgi için bkz . Azure Machine Learning çalışma alanı oluşturma.

• Çalışma alanınıza kaydedilmiş bir makine öğrenmesi modeli. Kayıtlı bir modeliniz yoksa bkz . Modellerin nasıl ve nereye dağıtılacağı.

• Machine Learning hizmeti, Azure Machine Learning Python SDK'sı veya Azure Machine Learning Visual Studio Code uzantısı için Azure CLI uzantısı (v1).

  Önemli

  Bu makaledeki Azure CLI komutlarından bazıları Azure Machine Learning için uzantısını veya v1'i kullanır azure-cli-ml. v1 uzantısı desteği 30 Eylül 2025'te sona erecektir. Bu tarihe kadar v1 uzantısını yükleyebilecek ve kullanabileceksiniz.

  30 Eylül 2025'e kadar , veya v2 uzantısına geçmenizi mlöneririz. v2 uzantısı hakkında daha fazla bilgi için bkz . Azure ML CLI uzantısı ve Python SDK v2.

• Bu makaledeki Python kod parçacıklarında aşağıdaki değişkenlerin ayarlandığı varsayılır:

  • ws - Çalışma alanınıza ayarlayın.
  • model - Kayıtlı modelinize ayarlayın.
  • inference_config - Modelin çıkarım yapılandırmasına ayarlayın.

  Bu değişkenleri ayarlama hakkında daha fazla bilgi için bkz . Modellerin nasıl ve nereye dağıtılacağı.

• Bu makaledeki CLI kod parçacıklarında bir inferenceconfig.json belge oluşturduğunuz varsayılır. Bu belgeyi oluşturma hakkında daha fazla bilgi için bkz . Modellerin nasıl ve nereye dağıtılacağı.

Sınırlamalar

Azure Machine Learning çalışma alanınız özel bir uç noktayla yapılandırıldığında, sanal ağda Azure Container Instances'a dağıtım desteklenmez. Bunun yerine Ağ yalıtımına sahip yönetilen çevrimiçi uç nokta kullanmayı düşünün.

ACI'ye dağıtma

Azure Container Instances'a model dağıtmak için, gereken işlem kaynaklarını açıklayan bir dağıtım yapılandırması oluşturun. Örneğin, çekirdek sayısı ve bellek. Modeli ve web hizmetini barındırmak için gereken ortamı açıklayan bir çıkarım yapılandırmasına da ihtiyacınız vardır. Çıkarım yapılandırmasını oluşturma hakkında daha fazla bilgi için bkz . Modellerin nasıl ve nereye dağıtılacağı.

SDK’yı kullanarak

ŞUNUN IÇIN GEÇERLIDIR: Python SDK azureml v1

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Bu örnekte kullanılan sınıflar, yöntemler ve parametreler hakkında daha fazla bilgi için aşağıdaki başvuru belgelerine bakın:

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment

Azure CLI'yı kullanma

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v1

CLI kullanarak dağıtmak için aşağıdaki komutu kullanın. değerini kayıtlı modelin adı ve sürümüyle değiştirin mymodel:1 . değerini bu hizmeti vermek için adıyla değiştirin myservice :

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

Belgedeki deploymentconfig.json girdiler AciWebservice.deploy_configuration parametreleriyle eşler. Aşağıdaki tabloda, JSON belgesindeki varlıklar ile yöntemi için parametreler arasındaki eşleme açıklanmaktadır:

Aşağıdaki JSON, CLI ile kullanım için örnek bir dağıtım yapılandırmasıdır:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Daha fazla bilgi için az ml model deploy başvurusuna bakın.

VS Code'u kullanma

BKz . VS Code'da kaynakları yönetme.

Sonraki adımlar

• Özel Docker görüntüsü kullanarak model dağıtma
• Dağıtım sorunlarını giderme
• Web hizmetini güncelleştirme
• TLS kullanarak Azure Machine Learning aracılığıyla web hizmetinin güvenliğini sağlama
• Web hizmeti olarak dağıtılan ml modelini kullanma
• Application Insights ile Azure Machine Learning modellerinizi izleme
• Üretimde modeller için veri toplama