Início Rápido: Criar um Trabalho do Apache Airflow

Observação

O trabalho do Apache Airflow é alimentado pelo Apache Airflow.
O Apache Airflow é uma plataforma de código aberto usada para criar, programar e monitorar trabalhos complexos de forma programática. Ele permite que você defina um conjunto de tarefas, chamadas de operadores, que podem ser combinadas em DAGs (grafos direcionados acíclico) para representar pipelines de dados.

O Apache Airflow Job fornece uma maneira simples e eficiente de criar e gerenciar ambientes do Apache Airflow, permitindo que você execute seus trabalhos de orquestração em escala com facilidade. Neste início rápido, vamos criar um trabalho simples do Apache Airflow para se familiarizar com o ambiente e as funcionalidades do trabalho do Apache Airflow.

Pré-requisitos

  • Habilite o trabalho do Apache Airflow em seu locatário.

Observação

Como o trabalho do Apache Airflow está no estado de visualização, você precisa habilitá-lo por meio do administrador do locatário. Se você já vir o Apache Airflow Job, talvez o administrador do locatário já o tenha habilitado.

  1. Vá para Portal de Administração -> Configurações de Locatário -> Em Microsoft Fabric -> Expanda a seção 'Os usuários podem criar e usar o Trabalho do Apache Airflow (versão prévia)'.
  2. Escolha Aplicar.

Captura de tela para habilitar o Apache Airflow no locatário.

Criar um trabalho do Apache Airflow

  1. Você pode usar um espaço de trabalho existente ou Criar um novo espaço de trabalho.

  2. Expandir + New menu suspenso -> Clique em Mais opções -> Na Data Factory seção -> Selecione Apache Airflow Job (versão prévia)

    Captura de tela mostrando clicar em mais opções.

    Captura de tela para selecionar Fluxo de Trabalho de Dados.

  3. Dê um nome adequado ao seu projeto e clique no botão "Criar".

Criar um arquivo DAG

  1. Clique no cartão "Novo arquivo DAG" -> dê o nome ao arquivo e clique no botão "Criar".

    Captura de tela para nomear o arquivo DAG.

  2. Um código DAG boilerplate é apresentado a você. Você pode editar o arquivo de acordo com suas necessidades.

    A captura de tela apresenta o arquivo DAG boilerplate no Microsoft Fabric.

  3. Clique em “Slavar ícone”.

    A captura de tela apresenta como salvar o arquivo DAG no Microsoft Fabric.

Executar um DAG

  1. Comece clicando no botão "Executar DAG".

    Captura de tela para executar o DAG a partir da interface do usuário de fluxos de trabalho de dados.

  2. Uma vez iniciado, uma notificação aparecerá imediatamente indicando que o DAG está em execução.

  3. Para monitorar o progresso da execução do DAG, basta clicar em "Ver detalhes" dentro da central de notificações. Essa ação redirecionará você para a interface do usuário do Apache Airflow, onde você poderá acompanhar convenientemente o status e os detalhes da execução do DAG.

    Captura de tela para navegar até a interface do usuário do Apache Airflow a partir do centro de notificações.

Monitore seu DAG do Apache Airflow na interface do usuário do Apache Airflow

Os arquivos dag salvos são carregados na interface do usuário do Apache Airflow. Você pode monitorá-los clicando no botão "Monitorar no Apache Airflow".

Captura de tela para monitorar o DAG do Airflow.

A captura de tela apresenta o DAG do Airflow carregado.