Seguimiento de experimentos y modelos de ML con MLflow

Para el entrenamiento interactivo, como en un cuaderno de Jupyter, use el comando mlflow.set_experiment() de MLflow. Por ejemplo, el siguiente fragmento de código configura un experimento:

experiment_name = 'hello-world-example'
mlflow.set_experiment(experiment_name)

Para enviar trabajos, al usar la CLI o el SDK de Azure Machine Learning, establezca el nombre del experimento mediante la propiedad experiment_name del trabajo. No es necesario configurarlo en el script de entrenamiento.

$schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
command: echo "hello world"
environment:
  image: library/python:latest
tags:
  hello: world
display_name: hello-world-example
experiment_name: hello-world-example
description: |

Al trabajar de forma interactiva, MLflow inicia el seguimiento de la rutina de entrenamiento en cuanto se intenta registrar información que requiere una ejecución activa. Por ejemplo, el seguimiento de MLflow se inicia al registrar una métrica, un parámetro o iniciar un ciclo de entrenamiento y la funcionalidad de registro automático de MLflow está habilitada. Sin embargo, normalmente resulta útil iniciar la ejecución explícitamente, especialmente si se desea capturar el tiempo total del experimento en el campo Duración. Para iniciar la ejecución explícitamente, usa mlflow.start_run().

Tanto si inicia la ejecución manualmente como si no, finalmente debe detener la ejecución, de modo que MLflow sepa que la ejecución del experimento se realiza y puede marcar el estado de la ejecución como Completado. Para detener una ejecución, use mlflow.end_run().

Se recomienda encarecidamente iniciar ejecuciones manualmente para que no olvide terminarlas al trabajar en cuadernos.

• Para iniciar una ejecución manualmente y finalizarla cuando haya terminado de trabajar en el cuaderno:

  mlflow.start_run()
  
  # Your code
  
  mlflow.end_run()
  

• Normalmente resulta útil usar el paradigma del administrador de contextos para ayudarle a recordar finalizar la ejecución:

  with mlflow.start_run() as run:
      # Your code
  

• Al iniciar una nueva ejecución con mlflow.start_run(), puede ser útil especificar el parámetro run_name, que más adelante se traducirá al nombre de la ejecución de la interfaz de usuario de Azure Machine Learning y le ayudará a identificar la ejecución más rápido:

  with mlflow.start_run(run_name="hello-world-example") as run:
      # Your code
  

Los trabajos de Azure Machine Learning permiten enviar rutinas de entrenamiento o inferencia de larga duración como ejecuciones aisladas y reproducibles.

Creación de una rutina de entrenamiento

Al trabajar con trabajos, normalmente se coloca toda la lógica de entrenamiento como archivos dentro de una carpeta, por ejemplo, src. Uno de estos archivos es un archivo de Python con el punto de entrada de código de entrenamiento. En el ejemplo siguiente se muestra un ejemplo de hello_world.py:

# imports
import os
import mlflow

from random import random

# define functions
def main():
    mlflow.log_param("hello_param", "world")
    mlflow.log_metric("hello_metric", random())
    os.system(f"echo 'hello world' > helloworld.txt")
    mlflow.log_artifact("helloworld.txt")


# run functions
if __name__ == "__main__":
    # run main function
    main()

El ejemplo de código anterior no usa mlflow.start_run() pero, si se usa, MLflow reutiliza la ejecución activa actual. Por lo tanto, no es necesario quitar la línea que usa mlflow.start_run() si va a migrar código a Azure Machine Learning.

Agregar seguimiento a la rutina

Use el SDK de MLflow para realizar un seguimiento de cualquier métrica, parámetro, artefactos o modelos. Para obtener ejemplos sobre cómo registrarlos, consulte Métricas de registro, parámetros y archivos con MLflow.

Asegúrate de que el entorno del trabajo tiene MLflow instalado

Todos los entornos de Azure Machine Learning ya tienen MLflow instalado, por lo que no es necesario realizar ninguna acción si usas un entorno mantenido. Sin embargo, si desea usar un entorno personalizado:

1. Crea un archivo conda.yaml con las dependencias que necesites:

   channels:
   - conda-forge
   dependencies:
   - python=3.8.5
   - pip
   - pip:
     - mlflow
     - azureml-mlflow
     - fastparquet
     - cloudpickle==1.6.0
     - colorama==0.4.4
     - dask==2023.2.0
   

2. Haz referencia al entorno en el trabajo que estás usando.

Configuración del nombre del trabajo

Usa el parámetro display_name de los trabajos de Azure Machine Learning para configurar el nombre de la ejecución.

1. Usa la propiedad display_name para configurar el trabajo.

   • CLI de Azure
   • SDK de Python

   Para enviar el trabajo, crea un archivo YAML con la definición de trabajo en un archivo de job.yml. Este archivo debe crearse fuera del directorio src.

   $schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
   command: echo "hello world"
   environment:
     image: library/python:latest
   tags:
     hello: world
   display_name: hello-world-example
   experiment_name: hello-world-example
   description: |
   

2. Asegúrese de no usar mlflow.start_run(run_name="") dentro de la rutina de entrenamiento.

Enviar el archivo

1. Primero, conéctese al área de trabajo de Azure Machine Learning donde realizará su trabajo.

   • CLI de Azure
   • SDK de Python

   az account set --subscription <subscription>
   az configure --defaults workspace=<workspace> group=<resource-group> location=<location>
   

2. Enviar el archivo

   • CLI de Azure
   • SDK de Python

   Usa CLI de Azure Machine Learning para enviar el trabajo. Los trabajos que usan MLflow y se ejecutan en Azure Machine Learning registran automáticamente cualquier información de seguimiento en el área de trabajo. Abra el terminal y use el código siguiente para enviar el trabajo.

   az ml job create -f job.yml --web
   

3. Supervise el proceso de trabajo en Estudio de Azure Machine Learning.