Развертывание модели в службе "Экземпляры контейнеров Azure" с помощью CLI (версия 1)

Узнайте, как использовать "Машинное обучение Azure" для развертывания модели в качестве веб-службы в службе "Экземпляры контейнеров Azure" (ACI). Используйте Экземпляры контейнеров Azure в следующих случаях:

• вы предпочитаете не управлять собственным кластером Kubernetes;
• Ок при наличии только одной реплики службы, что может повлиять на время простоя.

Дополнительные сведения о квотах и доступности по регионам для ACI см. в статье Квоты и доступность по регионам для службы "Экземпляры контейнеров Azure".

Необходимые компоненты

• Рабочая область Машинного обучения Azure. Дополнительные сведения см. в разделе Создание рабочей области Машинного обучения Azure.

• Модель машинного обучения, зарегистрированная в вашей рабочей области. Если у вас нет зарегистрированной модели, см. раздел Как и где развертываются модели.

• Расширение Azure CLI (v1) для службы машинного обучения Azure, пакет SDK службы машинного обучения Azure для Python или расширение Visual Studio Code для службы машинного обучения Azure.

  Внимание

  Для использования некоторых команд Azure CLI, приведенных в этой статье, используйте расширение azure-cli-ml (версия 1) для Машинного обучения Azure. Поддержка расширения версии 1 будет прекращена 30 сентября 2025 г. Вы можете установить и использовать расширение версии 1 до этой даты.

  Рекомендуется перейти на расширение ml (версия 2) до 30 сентября 2025 г. Дополнительные сведения о расширении версии 2 см. на странице расширения CLI для Azure ML и пакета SDK для Python версии 2.

• В фрагментах кода Python в этой статье предполагается, что установлены следующие переменные:

  • ws — присвоено вашей рабочей области;
  • model — присвоено вашей зарегистрированной модели;
  • inference_config — присвоено конфигурации вывода для модели.

  Дополнительные сведения об установке этих переменных см. в разделе Как и где развертываются модели.

• В фрагментах кода CLI в этой статье предполагается, что вы создали документ inferenceconfig.json. Дополнительные сведения о создании этого документа см. в разделе Как и где развертываются модели.

Ограничения

Если рабочая область Машинное обучение Azure настроена с частной конечной точкой, развертывание в Экземпляры контейнеров Azure в виртуальной сети не поддерживается. Вместо этого рекомендуется использовать управляемую сетевую конечную точку с сетевой изоляцией.

Развертывание в ACI

Чтобы развернуть модель в службе "Экземпляры контейнеров Azure", создайте конфигурацию развертывания, которая описывает требуемые вычислительные ресурсы. Например, количество ядер и объем памяти. Вам также потребуется конфигурация вывода, описывающая среду, необходимую для размещения модели и веб-службы. Дополнительные сведения о создании конфигурации вывода см. в разделе Как и где развертываются модели.

Использование пакета SDK

ОБЛАСТЬ ПРИМЕНЕНИЯ: Пакет SDK для Python версии 1

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Дополнительные сведения о классах, методах и параметрах, используемых в этом примере, см. в следующих справочных документах.

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment

Использование Azure CLI

ОБЛАСТЬ ПРИМЕНЕНИЯ: расширение машинного обучения Azure CLI версии 1

Чтобы выполнить развертывание с помощью интерфейса командной строки, используйте следующую команду. Замените mymodel:1 на имя и версию зарегистрированной модели. Замените myservice именем для предоставления этой службы:

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

Записи в документе deploymentconfig.json соответствуют параметрам для AciWebservice.deploy_configuration. В следующей таблице описано сопоставление сущностей в документе JSON и параметров метода:

Следующий код JSON — это пример конфигурации развертывания для использования с CLI:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Дополнительные сведения см. в справочнике az ml model deploy.

Использование VS Code

См. статью об управлении ресурсами в VS Code.

Следующие шаги

• Развертывание модели с помощью пользовательского образа Docker
• Устранение неполадок при развертывании
• Обновление веб-службы
• Использование TLS для защиты веб-службы с помощью Машинного обучения Azure.
• Использование модели Машинного обучения Azure, развернутой в качестве веб-службы
• Мониторинг моделей машинного обучения в Azure с помощью Application Insights
• Сбор данных для моделей в рабочей среде