Bereitstellen vorhandener Pipelineaufträge für Batchendpunkte

Artikel
09/03/2024

GILT FÜR:Azure CLI ML-Erweiterung v2 (aktuell)Python SDK azure-ai-ml v2 (aktuell)

Batchendpunkte ermöglichen ihnen das Bereitstellen von Pipelinekomponenten und bieten eine bequeme Möglichkeit, Pipelines in Azure Machine Learning zu operationalisieren. Batchendpunkte akzeptieren Pipelinekomponenten für die Bereitstellung. Wenn Sie jedoch bereits über einen Pipelineauftrag verfügen, der erfolgreich ausgeführt wird, kann Azure Machine Learning diesen Auftrag als Eingabe für Ihren Batchendpunkt akzeptieren und die Pipelinekomponente automatisch für Sie erstellen. In diesem Artikel erfahren Sie, wie Sie Ihren vorhandenen Pipelineauftrag als Eingabe für die Batchbereitstellung verwenden.

Sie lernen Folgendes:

Ausführen und Erstellen des Pipelineauftrags, den Sie bereitstellen wollen
Erstellen einer Batchbereitstellung aus dem vorhandenen Auftrag
Testen der Bereitstellung

Über dieses Beispiel

In diesem Beispiel werden wir eine Pipeline bereitstellen, die aus einem einfachen Befehlsauftrag besteht, der „Hallo Welt!“ ausgibt. Anstatt die Pipelinekomponente vor der Bereitstellung zu registrieren, geben wir einen vorhandenen Pipelineauftrag an, der für die Bereitstellung verwendet werden soll. Azure Machine Learning erstellt dann die Pipelinekomponente automatisch und stellt sie als Pipelinekomponente für Batchendpunktbereitstellung bereit.

Das Beispiel in diesem Artikel basiert auf Codebeispielen, die im Repository azureml-examples enthalten sind. Um die Befehle lokal auszuführen, ohne YAML und andere Dateien kopieren/einfügen zu müssen, klonen Sie zunächst das Repository, und ändern Sie dann die Verzeichnisse zum Ordner:

Azure-Befehlszeilenschnittstelle
Python

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/cli

git clone https://github.com/Azure/azureml-examples --depth 1
cd azureml-examples/sdk/python

Die Dateien für dieses Beispiel befinden sich in:

cd endpoints/batch/deploy-pipelines/hello-batch

Voraussetzungen

Ein Azure-Abonnement. Wenn Sie nicht über ein Azure-Abonnement verfügen, können Sie ein kostenloses Konto erstellen, bevor Sie beginnen. Probieren Sie die kostenlose oder kostenpflichtige Version von Azure Machine Learning aus.
Ein Azure Machine Learning-Arbeitsbereich. Informationen zum Erstellen eines Arbeitsbereichs finden Sie unter Verwalten von Azure Machine Learning-Arbeitsbereichen.
Stellen Sie sicher, dass Sie über die folgenden Berechtigungen im Machine Learning-Arbeitsbereich verfügen:
- Erstellen oder Verwalten von Batchendpunkten und Batchbereitstellungen: Verwenden Sie die Rolle für Besitzer oder Mitwirkende oder eine benutzerdefinierte Rolle, die Microsoft.MachineLearningServices/workspaces/batchEndpoints/* zulässt.
- Erstellen von Azure Resource Manager-Bereitstellungen in der Arbeitsbereichsressourcengruppe: Verwenden Sie „Besitzer“-, „Mitwirkender“- oder eine benutzerdefinierte Rolle, die Microsoft.Resources/deployments/write in der Ressourcengruppe zulässt, in der der Arbeitsbereich bereitgestellt wird.
Installieren Sie die folgende Software, um mit Machine Learning zu arbeiten:
- Azure-Befehlszeilenschnittstelle
- Python
Führen Sie den folgenden Befehl aus, um die Azure CLI und die ml-Erweiterung für Azure Machine Learning zu installieren:
```
az extension add -n ml
```
Bereitstellungen der Pipelinekomponenten für Batchendpunkte werden in Version 2.7 der ml-Erweiterung für die Azure CLI eingeführt. Verwenden Sie den az extension update --name ml-Befehl, um die aktuelle Version abzurufen.
Führen Sie den folgenden Befehl aus, um das Azure Machine Learning-SDK für Python zu installieren:
```
pip install azure-ai-ml
```
Die ModelBatchDeployment- und PipelineComponentBatchDeployment-Klassen werden in Version 1.7.0 des SDK eingeführt. Verwenden Sie den pip install -U azure-ai-ml-Befehl, um die aktuelle Version abzurufen.

Herstellen einer Verbindung mit Ihrem Arbeitsbereich

Der Arbeitsbereich ist die wichtigste Ressource für maschinelles Lernen. Es bietet einen zentralen Ort für die Arbeit mit allen Artefakten, die Sie bei der Verwendung von Machine Learning erstellen. In diesem Abschnitt stellen Sie eine Verbindung mit dem Arbeitsbereich her, in dem Sie Ihre Bereitstellungsaufgaben durchführen.

Azure-Befehlszeilenschnittstelle
Python

Geben Sie im folgenden Befehl die Werte für Ihre Abonnement-ID, Ihren Arbeitsbereich, Ihren Standort und Ihre Ressourcengruppe ein:

az account set --subscription <subscription>
az configure --defaults workspace=<workspace> group=<resource-group> location=<location>

Importieren Sie die erforderlichen Bibliotheken.

from azure.ai.ml import MLClient, Input, load_component
from azure.ai.ml.entities import BatchEndpoint, ModelBatchDeployment, ModelBatchDeploymentSettings, PipelineComponentBatchDeployment, Model, AmlCompute, Data, BatchRetrySettings, CodeConfiguration, Environment, Data
from azure.ai.ml.constants import AssetTypes, BatchDeploymentOutputAction
from azure.ai.ml.dsl import pipeline
from azure.identity import DefaultAzureCredential

Konfigurieren Sie die Arbeitsbereichsdetails, und rufen Sie einen Handle für den Arbeitsbereich ab:

Geben Sie im folgenden Befehl die Werte für Ihre Abonnement-ID, Ihren Arbeitsbereich und Ihre Ressourcengruppe ein:
```
subscription_id = "<subscription>"
resource_group = "<resource-group>"
workspace = "<workspace>"

ml_client = MLClient(DefaultAzureCredential(), subscription_id, resource_group, workspace)
```

Ausführen des Pipelineauftrags, den Sie bereitstellen wollen

In diesem Abschnitt beginnen wir, indem wir einen Pipelineauftrag ausführen:

Azure-Befehlszeilenschnittstelle
Python

Die folgende pipeline-job.yml-Datei enthält die Konfiguration für den Pipelineauftrag:

pipeline-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineJob.schema.json
type: pipeline

experiment_name: hello-pipeline-batch
display_name: hello-pipeline-batch-job
description: This job demonstrates how to run the a pipeline component in a pipeline job. You can use this example to test a component in an standalone job before deploying it in an endpoint.

compute: batch-cluster
component: hello-component/hello.yml

Laden Sie die Pipelinekomponente, und instanziieren Sie diese:

hello_batch = load_component(source="hello-component/hello.yml")
pipeline_job = hello_batch()

Konfigurieren Sie nun einige Ausführungseinstellungen, um den Test durchzuführen. In diesem Artikel wird davon ausgegangen, dass Sie über einen Computecluster mit dem Namen batch-cluster verfügen. Sie können den Cluster durch den Namen Ihres Clusters ersetzen.

pipeline_job.settings.default_compute = "batch-cluster"
pipeline_job.settings.default_datastore = "workspaceblobstore"

Erstellen Sie den Pipelineauftrag:

Azure-Befehlszeilenschnittstelle
Python

JOB_NAME=$(az ml job create -f pipeline-job.yml --query name -o tsv)

pipeline_job_run = ml_client.jobs.create_or_update(
    pipeline_job, experiment_name="hello-batch-pipeline"
)
pipeline_job_run

Erstellen eines Batchendpunkts

Bevor wir den Pipelineauftrag bereitstellen, müssen wir einen Batchendpunkt bereitstellen, um die Bereitstellung zu hosten.

Geben Sie einen Namen für den Endpunkt an. Der Name eines Batchendpunkts muss in jeder Region eindeutig sein, da er zum Konstruieren des Aufruf-URI verwendet wird. Um die Eindeutigkeit sicherzustellen, fügen Sie alle nachstehenden Zeichen an den im folgenden Code angegebenen Namen an.
- Azure-Befehlszeilenschnittstelle
- Python
```
ENDPOINT_NAME="hello-batch"
```
```
endpoint_name="hello-batch"
```

Konfigurieren des Endpunkts:

Azure-Befehlszeilenschnittstelle
Python

Die endpoint.yml-Datei enthält die Konfiguration des Endpunkts.

endpoint.yml

$schema: https://azuremlschemas.azureedge.net/latest/batchEndpoint.schema.json
name: hello-batch
description: A hello world endpoint for component deployments.
auth_mode: aad_token

endpoint = BatchEndpoint(
    name=endpoint_name,
    description="A hello world endpoint for component deployments",
)

Erstellen des Endpunkts:

Azure-Befehlszeilenschnittstelle
Python

az ml batch-endpoint create --name $ENDPOINT_NAME  -f endpoint.yml

ml_client.batch_endpoints.begin_create_or_update(endpoint).result()

Fragen Sie den Endpunkt-URI ab:

Azure-Befehlszeilenschnittstelle
Python

az ml batch-endpoint show --name $ENDPOINT_NAME

endpoint = ml_client.batch_endpoints.get(name=endpoint_name)
print(endpoint)

Bereitstellen des Pipelineauftrags

Um die Pipelinekomponente bereitzustellen, müssen wir eine Batchbereitstellung aus dem vorhandenen Auftrag erstellen.

Wir müssen Azure Machine Learning den Namen des Auftrags mitteilen, den wir bereitstellen wollen. In unserem Fall wird dieser Auftrag in der folgenden Variablen angegeben:
- Azure-Befehlszeilenschnittstelle
- Python
```
echo $JOB_NAME
```
```
print(job.name)
```

Konfigurieren Sie die Bereitstellung.

Azure-Befehlszeilenschnittstelle
Python

Die deployment-from-job.yml-Datei enthält die Konfiguration der Bereitstellung. Beachten Sie, wie wir den Schlüssel job_definition anstelle von component verwenden, um anzugeben, dass diese Bereitstellung aus einem Pipelineauftrag erstellt wird:

deployment-from-job.yml

$schema: https://azuremlschemas.azureedge.net/latest/pipelineComponentBatchDeployment.schema.json
name: hello-batch-from-job
endpoint_name: hello-pipeline-batch
type: pipeline
job_definition: azureml:job_name_placeholder
settings:
    continue_on_step_failure: false
    default_compute: batch-cluster

Beachten Sie jetzt, wie wir die Eigenschaft job_definition anstelle von component verwenden:

deployment = PipelineComponentBatchDeployment(
    name="hello-batch-from-job",
    description="A hello world deployment with a single step. This deployment is created from a pipeline job.",
    endpoint_name=endpoint.name,
    job_definition=pipeline_job_run,
    settings={
        "default_compute": "batch-cluster",
        "continue_on_step_failure": False
    }
)

Tipp

Bei dieser Konfiguration wird davon ausgegangen, dass Sie über einen Computecluster mit dem Namen batch-cluster verfügen. Sie können diesen Wert durch den Namen Ihres Clusters ersetzen.

Erstellen Sie die Bereitstellung:
- Azure-Befehlszeilenschnittstelle
- Python
Führen Sie den folgenden Code aus, um eine Batchbereitstellung unter dem Batchendpunkt zu erstellen und diese als Standardbereitstellung festzulegen.
```
az ml batch-deployment create --endpoint $ENDPOINT_NAME --set job_definition=azureml:$JOB_NAME -f deployment-from-job.yml
```
Tipp

Beachten Sie die Verwendung von --set job_definition=azureml:$JOB_NAME. Da Auftragsnamen eindeutig sind, wird der Befehl --set hier verwendet, um den Namen des Auftrags zu ändern, wenn Sie ihn in Ihrem Arbeitsbereich ausführen.
Dieser Befehl startet die Bereitstellungserstellung und gibt eine Bestätigungsantwort zurück, während die Bereitstellungserstellung fortgesetzt wird.
```
ml_client.batch_deployments.begin_create_or_update(deployment).result()
```
Nach der Erstellung konfigurieren wir diese neue Bereitstellung als die Standardbereitstellung:
```
endpoint = ml_client.batch_endpoints.get(endpoint.name)
endpoint.defaults.deployment_name = deployment.name
ml_client.batch_endpoints.begin_create_or_update(endpoint).result()
```
Ihre Bereitstellung ist einsatzbereit.

Testen der Bereitstellung

Nachdem die Bereitstellung erstellt wurde, kann sie Aufträge empfangen. Sie können die Standardbereitstellung folgendermaßen aufrufen:

Azure-Befehlszeilenschnittstelle
Python

JOB_NAME=$(az ml batch-endpoint invoke -n $ENDPOINT_NAME --query name -o tsv)

job = ml_client.batch_endpoints.invoke(
    endpoint_name=endpoint.name, 
)

Sie können den Fortschritt der Show überwachen und die Protokolle streamen, wie im Folgenden beschrieben:

Azure-Befehlszeilenschnittstelle
Python

az ml job stream -n $JOB_NAME

ml_client.jobs.get(name=job.name)

Führen Sie den folgenden Code aus, um auf den Abschluss des Auftrags zu warten:

ml_client.jobs.stream(name=job.name)

Bereinigen von Ressourcen

Löschen Sie dann die zugehörigen Ressourcen aus dem Arbeitsbereich:

Azure-Befehlszeilenschnittstelle
Python

Führen Sie den folgenden Code aus, um den Batchendpunkt und die zugrundeliegende Bereitstellung zu löschen. --yes wird verwendet, um den Löschvorgang zu bestätigen.

az ml batch-endpoint delete -n $ENDPOINT_NAME --yes

Löschen Sie den Endpunkt:

ml_client.batch_endpoints.begin_delete(endpoint.name).result()

Freigeben über