Rastreie experimentos e modelos com MLflow

Para treinamento interativo, como em um bloco de anotações Jupyter, use o comando mlflow.set_experiment()MLflow . Por exemplo, o trecho de código a seguir configura um experimento:

experiment_name = 'hello-world-example'
mlflow.set_experiment(experiment_name)

Para enviar trabalhos usando a CLI ou SDK do Azure Machine Learning, defina o nome do experimento usando a experiment_name propriedade do trabalho. Não é necessário configurar o nome do experimento no script de treinamento.

$schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
command: echo "hello world"
environment:
  image: library/python:latest
tags:
  hello: world
display_name: hello-world-example
experiment_name: hello-world-example
description: |

Quando você trabalha interativamente, o MLflow começa a acompanhar sua rotina de treinamento assim que você registra informações que exigem uma execução ativa. Por exemplo, se a funcionalidade de registro automático do Mlflow estiver habilitada, o rastreamento MLflow começará quando você registrar uma métrica ou parâmetro ou iniciar um ciclo de treinamento.

No entanto, geralmente é útil iniciar a execução explicitamente, especialmente se você quiser capturar o tempo total para seu experimento no campo Duração . Para iniciar a execução explicitamente, use mlflow.start_run().

Independentemente de você iniciar a execução manualmente ou não, você eventualmente precisará interromper a execução, para que o MLflow saiba que sua execução de experimento está concluída e possa marcar o status da execução como Concluído. Para parar uma corrida, use mlflow.end_run().

O código a seguir inicia uma execução manualmente e a termina no final do bloco de anotações:

mlflow.start_run()

# Your code

mlflow.end_run()

É melhor iniciar as execuções manualmente para não se esquecer de terminá-las. Você pode usar o paradigma do gerenciador de contexto para ajudá-lo a se lembrar de terminar a execução.

with mlflow.start_run() as run:
    # Your code

Quando você inicia uma nova execução com mlflow.start_run()o , pode ser útil especificar o run_name parâmetro, que posteriormente se traduz no nome da execução na interface do usuário do Aprendizado de Máquina do Azure. Esta prática ajuda-o a identificar a corrida mais rapidamente.

with mlflow.start_run(run_name="hello-world-example") as run:
    # Your code

Os trabalhos do Azure Machine Learning permitem enviar rotinas de inferência ou treinamento de longa duração como execuções isoladas e reproduzíveis.

Crie uma rotina de treinamento que tenha acompanhamento

Quando você trabalha com trabalhos, normalmente coloca toda a sua lógica de treinamento como arquivos dentro de uma pasta, como src. Um dos arquivos é um arquivo Python com seu ponto de entrada de código de treinamento.

Em sua rotina de treinamento, você pode usar o SDK do MLflow para rastrear qualquer métrica, parâmetro, artefatos ou modelos. Para obter exemplos, consulte Registrar métricas, parâmetros e arquivos com MLflow.

O exemplo a seguir mostra uma rotina de treinamento hello_world.py que adiciona registro:

# imports
import os
import mlflow

from random import random

# define functions
def main():
    mlflow.log_param("hello_param", "world")
    mlflow.log_metric("hello_metric", random())
    os.system(f"echo 'hello world' > helloworld.txt")
    mlflow.log_artifact("helloworld.txt")


# run functions
if __name__ == "__main__":
    # run main function
    main()

O exemplo de código anterior não usa mlflow.start_run() , mas se usado, MLflow reutiliza a execução ativa atual. Portanto, você não precisará remover a linha se migrar o código para o mlflow.start_run() Azure Machine Learning.

Certifique-se de que o ambiente do seu trabalho tenha o MLflow instalado

Todos os ambientes com curadoria do Azure Machine Learning já têm o MLflow instalado. No entanto, se você usar um ambiente personalizado, crie um arquivo conda.yaml que tenha as dependências necessárias e faça referência ao ambiente em seu trabalho.

channels:
- conda-forge
dependencies:
- python=3.8.5
- pip
- pip:
  - mlflow
  - azureml-mlflow
  - fastparquet
  - cloudpickle==1.6.0
  - colorama==0.4.4
  - dask==2023.2.0

Configurar o nome do trabalho

Use o parâmetro display_name de trabalhos do Azure Machine Learning para configurar o nome da execução.

1. Use a display_name propriedade para configurar o trabalho.

   • CLI do Azure
   • Python SDK

   Para configurar o trabalho, crie um arquivo YAML com sua definição de trabalho em um arquivo job.yml fora do diretório src .

   $schema: https://azuremlschemas.azureedge.net/latest/commandJob.schema.json
   command: echo "hello world"
   environment:
     image: library/python:latest
   tags:
     hello: world
   display_name: hello-world-example
   experiment_name: hello-world-example
   description: |
   

2. Certifique-se de não usar mlflow.start_run(run_name="") dentro da sua rotina de treino.

Submeter o trabalho

1. O espaço de trabalho é o recurso de nível superior para o Azure Machine Learning, fornecendo um local centralizado para trabalhar com todos os artefatos do Azure Machine Learning que você cria. Conecte-se ao espaço de trabalho do Azure Machine Learning.

   • CLI do Azure
   • Python SDK

   az account set --subscription <subscription>
   az configure --defaults workspace=<workspace> group=<resource-group> location=<location>
   

2. Abra seu terminal e use o seguinte código para enviar o trabalho. Os trabalhos que usam MLflow e são executados no Azure Machine Learning registram automaticamente todas as informações de controle no espaço de trabalho.

   • CLI do Azure
   • Python SDK

   Use a CLI do Azure Machine Learning para enviar seu trabalho.

   az ml job create -f job.yml --web
   

3. Monitore o progresso do trabalho no estúdio do Azure Machine Learning.