Implantar um modelo nas Instâncias de Contêiner do Azure com a CLI (v1)

Saiba como usar o Azure Machine Learning para implantar um modelo como um serviço Web nas Instâncias de Contêiner do Azure (ACI). Use as Instâncias de Contêiner do Azure caso:

• prefira não gerenciar seu próprio cluster Kubernetes
• Concordo em ter apenas uma única réplica do seu serviço, o que pode afetar o tempo de atividade

Para ver a disponibilidade de região e cotas para a ACI, consulte o documento Cotas e disponibilidade de região para Instâncias de Contêiner do Azure.

Pré-requisitos

• Um Workspace do Azure Machine Learning. Para obter mais informações, confira Criar um workspace do Azure Machine Learning.

• Um modelo de machine learning registrado em seu workspace. Se você não tiver um modelo registrado, confira Como e onde implantar modelos.

• A extensão CLI do Azure (v1) para o serviço Machine Learning, o SDK do Azure Machine Learning para Python ou a extensão Visual Studio Code do Azure Machine Learning.

  Importante

  Alguns comandos da CLI do Azure neste artigo usam a extensão azure-cli-ml ou v1 do Azure Machine Learning. O suporte à extensão v1 terminará em 30 de setembro de 2025. Você poderá instalar e usar a extensão v1 até essa data.

  Recomendamos que você faça a transição para a extensão ml ou v2, antes de 30 de setembro de 2025. Para obter mais informações sobre a extensão v2, confira Extensão da CLI do Azure ML e SDK do Python v2.

• Os snippets de código Python neste artigo pressupõem que as seguintes variáveis estejam definidas:

  • ws - Defina para seu workspace.
  • model - Defina para o modelo registrado.
  • inference_config – Defina para a configuração de inferência do modelo.

  Para obter mais informações sobre como definir essas variáveis, confira Como e onde implantar modelos.

• Os snippets da CLI neste artigo pressupõem que você criou um documento inferenceconfig.json. Para obter mais informações sobre como criar esse documento, confira Como e onde implantar modelos.

Limitações

Quando seu workspace do Azure Machine Learning é configurado com um ponto de extremidade privado, não há suporte para a implantação em Instâncias de Contêiner do Azure em uma rede virtual. Em vez disso, considere usar um ponto de extremidade online gerenciado com isolamento de rede.

Implantar no ACI

Para implantar um modelo nas Instâncias de Contêiner do Azure, crie uma configuração de implantação que descreva os recursos de computação necessários. Por exemplo, o número de núcleos e a memória. Você também precisa de uma configuração de inferência, que descreve o ambiente necessário para hospedar o modelo e o serviço Web. Para obter mais informações sobre como criar a configuração de inferência, confira Como e onde implantar modelos.

Usar o SDK

APLICA-SE A: SDK do Python do AzureML v1

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Para obter mais informações sobre as classes, os métodos e os parâmetros usados neste exemplo, confira os seguintes documentos de referência:

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment

Usando a CLI do Azure

APLICA-SE A: Extensão ML da CLI do Azure v1

Para implantar usando a CLI, use o comando a seguir. Substituir mymodel:1 pelo nome e versão do modelo registrado. Substitua myservice pelo nome para fornecer este serviço:

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

As entradas no documento deploymentconfig.json são mapeadas para os parâmetros de AciWebservice.deploy_configuration. A seguinte tabela descreve o mapeamento entre as entidades no documento JSON e os parâmetros do método:

O seguinte JSON é um exemplo de configuração de implantação a ser usada com a CLI:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Para obter mais informações, confira a referência Implantação do modelo AZ ML.

Usar o VS Code

Confira como gerenciar recursos no VS Code.

Próximas etapas

• Como implantar um modelo usando uma imagem personalizada do Docker
• Solução de problemas de implantação
• Atualizar o serviço Web
• Use o TLS para proteger um serviço Web por meio do Azure Machine Learning
• Consumir um modelo de ML implantado como um serviço Web
• Monitorar seus modelos do Azure Machine Learning com o Application Insights
• Coletar dados para modelos em produção