Verfolgen von Experimenten und Modellen mit MLflow

Verwenden Sie für interaktives Training, z. B. in einem Jupyter Notebook, den MLflow-Befehl mlflow.set_experiment(). Der folgende Codeschnipsel konfiguriert beispielsweise ein Experiment:

experiment_name = 'hello-world-example'
mlflow.set_experiment(experiment_name)

Wenn Sie Aufträge mithilfe der Azure Machine Learning-CLI oder des SDK übermitteln möchten, legen Sie den Namen des Experiments fest, indem Sie die Eigenschaft experiment_name des Auftrags verwenden. Sie müssen den Namen des Experiments nicht in Ihrem Trainingsskript konfigurieren.

$schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
command: echo "hello world"
environment:
  image: library/python:latest
tags:
  hello: world
display_name: hello-world-example
experiment_name: hello-world-example
description: |

Beim interaktiven Arbeiten beginnt MLflow mit der Nachverfolgung Ihrer Trainingsroutine, sobald Sie Informationen protokollieren, die eine aktive Ausführung erfordern. Wenn die automatische Protokollierung von MLflow aktiviert ist, beginnt beispielsweise die MLflow-Nachverfolgung, wenn Sie eine Metrik oder einen Parameter protokollieren oder einen Trainingszyklus starten.

In der Regel ist es jedoch hilfreich, die Ausführung explizit zu starten, insbesondere, wenn Sie die Gesamtzeit Ihres Experiments im Feld Dauer erfassen möchten. Um die Ausführung explizit zu starten, verwenden Sie mlflow.start_run().

Unabhängig davon, ob Sie die Ausführung manuell starten oder nicht, müssen Sie die Ausführung schließlich beenden, damit MLflow weiß, dass Ihre Experimentausführung abgeschlossen ist und den Status der Ausführung als Abgeschlossen markieren kann. Verwenden Sie mlflow.end_run(), um eine Ausführung zu beenden.

Der folgende Code startet eine Ausführung manuell und endet am Ende des Notebooks:

mlflow.start_run()

# Your code

mlflow.end_run()

Es ist am besten, Ausführungen manuell zu starten, damit Sie nicht vergessen, sie zu beenden. Normalerweise ist es hilfreich, das Paradigma des Kontextmanagers zu verwenden, um sich daran zu erinnern, die Ausführung zu beenden.

with mlflow.start_run() as run:
    # Your code

Wenn Sie eine neue Ausführung mit mlflow.start_run() starten, kann es hilfreich sein, den Parameter run_name anzugeben, der später in den Namen der Ausführung in der Azure Machine Learning-Benutzeroberfläche übersetzt wird. Dies hilft Ihnen, die Ausführung schneller zu identifizieren.

with mlflow.start_run(run_name="hello-world-example") as run:
    # Your code

Azure Machine Learning-Aufträge ermöglichen es Ihnen, zeitintensive Trainings- oder Rückschlussroutinen als isolierte und reproduzierbare Ausführungen zu übermitteln.

Erstellen einer Trainingsroutine mit Nachverfolgung

Wenn Sie mit Aufträgen arbeiten, platzieren Sie in der Regel Ihre gesamte Trainingslogik als Dateien innerhalb eines Ordners, z. B. src. Eine dieser Dateien ist eine Python-Datei mit Ihrem Einstiegspunkt für den Trainingscode.

In Ihrer Trainingsroutine können Sie das MLflow-SDK verwenden, um Metriken, Parameter, Artefakte oder Modelle nachzuverfolgen. Beispiele finden Sie unter Protokollieren von Metriken, Parametern und Dateien mit MLflow.

Das folgende Beispiel zeigt eine hello_world.py-Trainingsroutine, die Protokollierung hinzufügt:

# imports
import os
import mlflow

from random import random

# define functions
def main():
    mlflow.log_param("hello_param", "world")
    mlflow.log_metric("hello_metric", random())
    os.system(f"echo 'hello world' > helloworld.txt")
    mlflow.log_artifact("helloworld.txt")


# run functions
if __name__ == "__main__":
    # run main function
    main()

Im vorherigen Codebeispiel wird mlflow.start_run() nicht verwendet, aber wenn es verwendet wird, verwendet MLflow die aktuelle aktive Ausführung wieder. Daher müssen Sie die Zeile mlflow.start_run() nicht entfernen, wenn Sie Code zu Azure Machine Learning migrieren.

Stellen Sie sicher, dass MLflow in der Umgebung Ihres Auftrags installiert ist

In allen kuratierten Azure Machine Learning-Umgebungen ist MLflow bereits installiert. Wenn Sie jedoch eine benutzerdefinierte Umgebung verwenden, erstellen Sie eine conda.yaml-Datei mit den benötigten Abhängigkeiten, und verweisen Sie in Ihrem Auftrag auf die Umgebung.

channels:
- conda-forge
dependencies:
- python=3.8.5
- pip
- pip:
  - mlflow
  - azureml-mlflow
  - fastparquet
  - cloudpickle==1.6.0
  - colorama==0.4.4
  - dask==2023.2.0

Konfigurieren des Auftragsnamens

Verwenden Sie den Parameter display_name von Azure Machine Learning-Aufträgen, um den Namen der Ausführung zu konfigurieren.

1. Verwenden Sie die Eigenschaft display_name, um den Auftrag zu konfigurieren.

   • Azure-Befehlszeilenschnittstelle
   • Python SDK

   Um den Auftrag zu konfigurieren, erstellen Sie eine YAML-Datei mit Ihrer Auftragsdefinition in einer job.yml-Datei außerhalb des src-Verzeichnisses.

   $schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
   command: echo "hello world"
   environment:
     image: library/python:latest
   tags:
     hello: world
   display_name: hello-world-example
   experiment_name: hello-world-example
   description: |
   

2. Achten Sie darauf, mlflow.start_run(run_name="") nicht in Ihrer Trainingsroutine zu verwenden.

Übermitteln des Auftrags

1. Der Arbeitsbereich ist die Ressource der obersten Ebene für Azure Machine Learning und ein zentraler Ort für die Arbeit mit allen Azure Machine Learning-Artefakten, die Sie erstellen. Stellen Sie eine Verbindung mit dem Azure Machine Learning-Arbeitsbereich her.

   • Azure-Befehlszeilenschnittstelle
   • Python SDK

   az account set --subscription <subscription>
   az configure --defaults workspace=<workspace> group=<resource-group> location=<location>
   

2. Öffnen Sie Ihr Terminal, und verwenden Sie den folgenden Code, um den Auftrag zu übermitteln. Aufträge, die MLflow verwenden und in Azure Machine Learning ausgeführt werden, protokollieren automatisch alle Nachverfolgungsinformationen im Arbeitsbereich.

   • Azure-Befehlszeilenschnittstelle
   • Python SDK

   Verwenden Sie die Azure Machine Learning CLI , um Ihren Auftrag zu übermitteln.

   az ml job create -f job.yml --web
   

3. Überwachen Sie den Auftragsstatus im Azure Machine Learning Studio.