Verwalten von Compute

Dieser Artikel beschreibt die Verwaltung von Azure Databricks-Computes, einschließlich Anzeigen, Bearbeiten, Starten, Beenden, Löschen, Steuern des Zugriffs und Überwachen von Leistung und Protokolle. Sie können die Cluster-API auch verwenden, um Computes programmgesteuert zu verwalten.

Anzeigen von „Compute“

Um Ihren Compute anzuzeigen, klicken Sie in der Arbeitsbereichs-Seitenleiste auf Compute.

Auf der linken Seite befinden sich zwei Spalten, die anzeigen, ob das Compute angeheftet wurde und welchen Status er aufweist. Zeigen Sie mit der Maus auf den Status, um weitere Informationen zu erhalten.

Anzeigen der Computekonfiguration als JSON-Datei

Manchmal kann es hilfreich sein, Ihre Computekonfiguration als JSON anzuzeigen. Dies ist besonders nützlich, wenn Sie ähnliche Computes mit der Cluster-API erstellen möchten. Wenn Sie einen vorhandenen Compute anzeigen, wechseln Sie zur Registerkarte Konfiguration, klicken Sie oben rechts auf der Registerkarte auf JSON, kopieren Sie den JSON-Code und fügen Sie ihn in Ihren API-Aufruf ein. Die JSON-Ansicht ist schreibgeschützt.

Anheften eines Compute

30 Tage nach dem Beenden eines Computes wird es endgültig gelöscht. Wenn Sie die Konfiguration eines Universalcomputes nach seiner Beendigung länger als 30 Tage beibehalten möchten, kann ein Administrator das Compute anheften. Bis zu 100 Computeressourcen können angeheftet werden.

Administratoren können einen Compute aus der Computeliste oder der Computedetailseite anheften, indem Sie auf das Pin-Symbol klicken.

Bearbeiten eines Computes

Sie können die Konfiguration eines Computes über die Benutzeroberfläche für Computedetails bearbeiten.

Klonen eines Computes

Um einen vorhandenen Compute zu klonen, wählen Sie "Klonen" aus dem Kebab-Menü von Compute.

Nachdem Sie Klonen ausgewählt haben, wird die Benutzeroberfläche für die Computeerstellung mit der Computekonfiguration geöffnet. Die folgenden Attribute sind NICHT im Klon enthalten:

• Computeberechtigungen
• Angefügte Notebooks

Wenn Sie die zuvor installierten Bibliotheken nicht in den geklonten Compute einschließen möchten, klicken Sie auf das Dropdownmenü neben der Schaltfläche Compute erstellen, und wählen Sie Erstellen ohne Bibliotheken aus.

Computeberechtigungen

Es gibt vier Berechtigungsstufen für einen Compute: KEINE BERECHTIGUNGEN, KANN ANFÜGEN, KANN NEU STARTEN und KANN VERWALTEN. Ausführliche Informationen finden Sie unter Zugriffssteuerungslisten für Computeressourcen.

Konfigurieren von Computeberechtigungen

In diesem Abschnitt wird beschrieben, wie Sie Berechtigungen über die Benutzeroberfläche des Arbeitsbereichs verwalten. Sie können auch die Berechtigungs-API oder den Databricks-Terraform-Anbieter verwenden.

Sie müssen über die KANN VERWALTEN-Berechtigung für ein Compute verfügen, um Computeberechtigungen zu konfigurieren.

1. Klicken Sie auf der Seitenleiste auf Compute.
2. Wählen Sie in der Zeile für das Compute das Kebab-Menü auf der rechten Seite und dann Berechtigungen bearbeiten aus.
3. Wählen Sie unter Berechtigungseinstellungen das Dropdownmenü Benutzer, Gruppe oder Dienstprinzipal auswählen… und dann einen*eine Benutzer*in, eine Gruppe oder einen Dienstprinzipal aus.
4. Wählen Sie im Dropdownmenü „Berechtigung“ eine Berechtigung aus.
5. Wählen Sie Hinzufügen und dann Speichern aus.

Beenden einer Berechnung

Um Computeressourcen zu sparen, können Sie ein Compute beenden. Die Konfiguration des beendeten Computes wird gespeichert, sodass sie zu einem späteren Zeitpunkt wiederverwendet (oder im Falle von Aufträgen automatisch gestartet) werden kann. Sie können ein Compute manuell beenden oder es so konfigurieren, dass es nach einer angegebenen Zeit der Inaktivität automatisch beendet wird. Wenn die Anzahl der beendeten Computes 150 überschreitet, wird der älteste Compute gelöscht.

Sofern ein Compute nicht angeheftet ist oder neu gestartet wurde, wird er 30 Tage nach dem Beenden automatisch und dauerhaft gelöscht.

Ein beendeter Compute wird in der Computeliste mit einem grauen Kreis links neben dem Computenamen angezeigt.

Manuelle Beendigung

Sie können einen Compute manuell aus der Computeliste beenden (indem Sie auf das Quadrat in der Zeile des Computes klicken) oder die Computedetailseite (durch Klicken auf Beenden).

Automatische Beendigung

Sie können auch die automatische Beendigung für ein Compute festlegen. Während der Computeerstellung können Sie einen Inaktivitätszeitraum in Minuten angeben, nach dem das Compute beendet werden soll.

Wenn der Unterschied zwischen der aktuellen Zeit und der letzten Ausführung des Befehls im Compute größer als der angegebene Inaktivitätszeitraum ist, beendet Azure Databricks dieses Compute automatisch.

Ein Compute gilt als inaktiv, wenn alle Befehle im Compute, einschließlich Spark-Aufträgen, strukturiertem Streaming und JDBC-Aufrufen, die Ausführung abgeschlossen haben.

Konfigurieren der automatischen Beendigung

Sie können die automatische Beendigung in der neuen Benutzeroberfläche des Computes konfigurieren. Stellen Sie sicher, dass das Kontrollkästchen aktiviert ist, und geben Sie in der Einstellung Beenden nach ___ Minuten ohne Aktivität eine Anzahl von Minuten ein.

Sie können die automatische Beendigung deaktivieren, indem Sie das Kontrollkästchen „Automatische Beendigung“ deaktivieren oder einen Inaktivitätszeitraum von 0 angeben.

Unerwartete Beendigung

Es kann vorkommen, dass ein Compute unerwartet beendet wird, und zwar nicht aufgrund einer manuellen Beendigung oder einer konfigurierten automatischen Beendigung.

Eine Liste der Beendigungsgründe und Korrekturschritte finden Sie in der Wissensdatenbank.

Löschen eines Computes

Durch das Löschen eines Computes wird das Compute beendet und die Konfiguration entfernt. Um ein Compute zu löschen, wählen Sie Löschen aus dem Menü „Compute“ aus.

Um einen angehefteten Compute zu löschen, muss er zunächst von einem Administrator gelöst werden.

Sie können auch den Endpunkt Cluster-API aufrufen, um ein Compute programmgesteuert zu löschen.

Neustarten eines Computes

Sie können einen zuvor beendeten Compute aus der Computeliste, der Computedetailseite oder einem Notizbuch neu starten. Sie können auch den Endpunkt Cluster-API aufrufen, um einen Compute programmgesteuert zu starten.

Azure Databricks identifiziert ein Compute über seine eindeutige Cluster-ID. Wenn Sie ein beendetes Compute starten, erstellt Databricks das Compute mit der gleichen ID neu, installiert automatisch alle Bibliotheken und fügt die Notebooks neu an.

Ein Compute neu starten, um es mit den neuesten Images zu aktualisieren

Wenn Sie ein Compute neu starten, ruft es die neuesten Images für die Container der Computeressourcen und die VM-Hosts ab. Es ist wichtig, regelmäßige Neustarts für zeitintensive Computes zu planen, etwa solche, die für die Verarbeitung von Streamingdaten verwendet werden.

Es liegt in Ihrer Verantwortung, alle Berechnungsressourcen regelmäßig neu zu starten, um das Image mit der neuesten Image-Version auf dem neuesten Stand zu halten.

Notebookbeispiel: Suchen von Computes mit langer Ausführungszeit

Wenn Sie Arbeitsbereichsadministrator sind, können Sie ein Skript ausführen, das bestimmt, wie lang die einzelnen Computes ausgeführt wurden, und sie optional neu starten, wenn sie älter als eine bestimmte Anzahl von Tagen sind. Azure Databricks stellt dieses Skript als Notebook bereit.

Die ersten Zeilen des Skripts definieren Konfigurationsparameter:

• min_age_output: Die maximale Anzahl von Tagen, die ein Compute ausführen kann. Der Standard- ist 1.
• perform_restart: Wenn True, startet das Skript jedes Compute, das älter ist als die durch min_age_output angegebene Anzahl von Tagen, neu. Die Standardeinstellung ist False, die das Compute mit langer Ausführungszeit identifiziert, aber es nicht neu startet.
• secret_configuration: Ersetzen Sie REPLACE_WITH_SCOPE und REPLACE_WITH_KEY durch einen Geheimnisbereich und einen Schlüsselnamen. Weitere Informationen zum Einrichten der Geheimnisse finden Sie im Notebook.

Identifizieren und optional Neustarten von Computes mit langer Ausführungszeit

Notebook abrufen

Automatischer Computestart für Aufträge und JDBC/ODBC-Abfragen

Wenn ein Auftrag, der einem beendeten Compute zugewiesen ist, ausgeführt werden soll oder Sie über eine JDBC-/ODBC-Schnittstelle eine Verbindung mit einem beendeten Compute herstellen, wird das Compute automatisch neu gestartet. Siehe Konfigurieren von Compute für Aufträge und JDBC Connect.

Mit dem automatischen Computestart können Sie Computes so konfigurieren, dass sie automatisch beendet werden, ohne dass ein manueller Eingriff zum Neustart der Computes für geplante Aufträge erforderlich ist. Darüber hinaus können Sie die Computeinitialisierung planen, indem Sie einen Auftrag für die Ausführung in einem beendeten Compute planen.

Bevor ein Compute automatisch neu gestartet wird, werden die Berechtigungen für die Compute- und Auftrags- Zugriffssteuerung überprüft.

Anzeigen von Computeinformationen in der Apache Spark UI

Sie können detaillierte Informationen zu Spark-Aufträgen anzeigen, indem Sie die Registerkarte Spark-Benutzeroberfläche auf der Computedetailseite auswählen.

Wenn Sie ein beendetes Compute neu starten, zeigt die Spark-Benutzeroberfläche Informationen für das neu gestartete Compute und nicht die Verlaufsinformationen für das beendete Compute an.

Lesen Sie "Diagnose von Kosten- und Leistungsproblemen mithilfe der Spark-Benutzeroberfläche", um die Diagnose von Kosten- und Leistungsproblemen mithilfe der Spark-Benutzeroberfläche zu durchlaufen.

Anzeigen von Computeprotokollen

Azure Databricks bietet drei Arten der Protokollierung computebezogener Aktivitäten:

• Computeereignisprotokolle, die Computelebenszyklusereignisse erfassen, z. B. Erstellung, Beendigung, Konfigurationsbearbeitungen usw.
• Apache Spark-Treiber- und Workerprotokolle, die Sie zum Debuggen verwenden können.
• Compute-Initialisierungsskript-Protokolle, die für das Debuggen von Initialisierungsskripts nützlich sind.

In diesem Abschnitt werden Computeereignisprotokolle sowie Treiber- und Workerprotokolle erläutert. Ausführliche Informationen zu Init-Skript-Protokollen finden Sie unter Init-Skript-Protokollierung.

Compute von Ereignisprotokollen

Das Computeereignisprotokoll zeigt wichtige Ereignisse im Computelebenszyklus an, die manuell durch Benutzeraktionen oder automatisch durch Azure Databricks ausgelöst werden. Diese Ereignisse beeinflussen den Betrieb eines Computes als Ganzes und die Aufträge, die im Compute ausgeführt werden.

Informationen zu unterstützten Ereignistypen finden Sie in der Cluster-API-Datenstruktur.

Ereignisse werden 60 Tage lang gespeichert. Dies entspricht den gängigen Datenaufbewahrungszeiten in Azure Databricks.

Anzeigen des Ereignisprotokolls eines Computes

Um das Ereignisprotokoll des Computes anzuzeigen, wählen Sie die Registerkarte Ereignisprotokoll auf der Computedetailseite aus.

Um weitere Informationen zu einem Ereignis zu erhalten, klicken Sie auf die Zeile im Protokoll und dann auf die Registerkarte JSON.

Computetreiber- und Workerprotokolle

Die Direktdruck- und Protokollanweisungen aus Ihren Notebooks, Aufträgen und Bibliotheken werden zu den Spark-Treiberprotokollen geleitet. Sie können auf diese Dateien über die Registerkarte Treiberprotokolle auf der Computedetailseite zugreifen. Klicken Sie auf den Namen einer Protokolldatei, um sie herunterzuladen.

Diese Protokolle weisen drei Ausgaben auf:

• Standardausgabe
• Standardfehler
• Log4j-Protokolle

Verwenden Sie zum Anzeigen von Spark Worker-Protokollen die Registerkarte Spark UI. Sie können auch einen Protokollübermittlungsspeicherort für das Compute konfigurieren. Sowohl Worker- als auch Computeprotokolle werden an den von Ihnen angegebenen Speicherort übermittelt.

Überwachen der Leistung

Zur Überwachung der Leistung von Azure Databricks-Computes bietet Azure Databricks über die Detailseite des Computes Zugriff auf Metriken. Für Databricks Runtime 12.2 und niedriger bietet Azure Databricks Zugriff auf Ganglia-Metriken. Für Databricks Runtime 13.3 LTS und höher werden Computemetriken von Azure Databricks bereitgestellt.

Darüber hinaus können Sie ein Azure Databricks-Compute so konfigurieren, dass Metriken an einen Log Analytics-Arbeitsbereich in Azure Monitor (die Überwachungsplattform für Azure) gesendet werden.

Sie können außerdem Datadog-Agents auf Computeknoten installieren, um Datadog-Metriken an Ihr Datadog-Konto zu senden.

Computemetriken

Das Berechnen von Metriken ist das Standardüberwachungstool für nicht serverloses Allzweck- und Auftragsberechnungen. Navigieren Sie auf der Seite mit den Computedetails zur Registerkarte Metriken, um auf die Benutzeroberfläche für die Computemetriken zuzugreifen.

Sie können Verlaufsmetriken anzeigen, indem Sie mithilfe des Datumsauswahlfilters einen Zeitbereich auswählen. Metriken werden jede Minute erfasst. Sie können auch die neuesten Metriken abrufen, indem Sie auf die Schaltfläche Aktualisieren klicken. Weitere Informationen finden Sie unter Anzeigen von Computemetriken.

Ganglia-Metriken

Um auf die Ganglia-Benutzeroberfläche zuzugreifen, navigieren Sie auf der Seite mit den Berechnungsdetails zur Registerkarte Metriken, und aktivieren Sie die Einstellung Legacy-Metriken. GPU-Metriken sind für GPU-fähige Computes verfügbar.

Klicken Sie zum Anzeigen von Livemetriken auf den Link zur Ganglia-Benutzeroberfläche.

Klicken Sie auf eine Momentaufnahmedatei, um Verlaufsmetriken anzuzeigen. Die Momentaufnahme enthält aggregierte Metriken für die Stunde vor der ausgewählten Zeit.

Konfigurieren der Sammlung von Ganglia-Metriken

Azure Databricks sammelt standardmäßig alle 15 Minuten Ganglia-Metriken. Legen Sie zum Konfigurieren des Sammlungszeitraums die Umgebungsvariable DATABRICKS_GANGLIA_SNAPSHOT_PERIOD_MINUTES mithilfe eines Initialisierungsskripts oder im Feld spark_env_vars in der Clustererstellungs-API fest.

Azure Monitor

Sie können einen Azure Databricks-Computes so konfigurieren, dass Metriken an einen Log Analytics-Arbeitsbereich in Azure Monitor (die Überwachungsplattform für Azure) gesendet werden. Eine vollständige Anleitung finden Sie unter Überwachen von Azure Databricks.

Notebookbeispiel: Datadog-Metriken

Sie können Datadog-Agents auf Computeknoten installieren, um Datadog-Metriken an Ihr Datadog-Konto zu senden. Im folgenden Notebook wird veranschaulicht, wie Sie einen Datadog-Agent mithilfe eines computespezifischen Init-Skripts in einem Compute installieren.

Um den Datadog-Agent auf allen Computes zu installieren, verwalten Sie das computebezogene Initialisierungsskript mithilfe einer Computerichtlinie.

Installieren des Datadog-Agent-Init-Skript-Notebooks

Notebook abrufen

Außerbetriebnahme von Spotinstanzen

Da Spotinstanzen Kosten senken können, ist das Erstellen von Computes mit Spotinstanzen anstelle von bedarfsbasierten Instanzen eine gängige Methode zum Ausführen von Aufträgen. Spotinstanzen können jedoch durch Planungsmechanismen des Cloudanbieters vorverlegt werden. Die Vorabbeendung von Spotinstanzen kann zu Problemen mit ausgeführten Aufträgen führen, z. B.:

• Fehler beim Shuffle-Abruf
• Shuffle-Datenverlust
• RDD-Datenverlust
• Auftragsfehler

Sie können die Außerbetriebnahme aktivieren, um diese Probleme zu beheben. Die Außerbetriebnahme nutzt die Benachrichtigung, die der Cloudanbieter normalerweise sendet, bevor eine Spotinstanz außer Betrieb genommen wird. Wenn eine Spotinstanz, die einen Executor enthält, eine Vorabbenachrichtigung empfängt, versucht der Außerbetriebsetzungsprozess, Shuffle- und RDD-Daten zu fehlerfreien Executors zu migrieren. Die Dauer vor der endgültigen Vorabbeendung beträgt je nach Cloudanbieter in der Regel 30 Sekunden bis 2 Minuten.

Databricks empfiehlt, die Datenmigration zu aktivieren, wenn die Außerbetriebnahme ebenfalls aktiviert ist. Im Allgemeinen nimmt die Wahrscheinlichkeit von Fehlern ab, wenn mehr Daten migriert werden, einschließlich Shuffle-Fetchingfehlern, Shuffle-Datenverlust und RDD-Datenverlust. Die Datenmigration kann auch zu einer geringeren Neuberechnung führen und Kosten sparen.

Wenn die Außerbetriebnahme aktiviert ist, werden Aufgabenfehler, die durch die Vorabverlegung von Spotinstanzen verursacht werden, nicht zur Gesamtzahl der fehlgeschlagenen Versuche hinzugefügt. Aufgabenfehler, die durch die Vorabbeendung verursacht werden, werden nicht als fehlgeschlagene Versuche gezählt, da die Ursache des Fehlers außerhalb der Aufgabe liegt und nicht zu Auftragsfehlern führt.

Außerbetriebnahme aktivieren

Um die Außerbetriebnahme für ein Compute zu aktivieren, geben Sie auf der Registerkarte Spark unter Erweiterte Optionen auf der Benutzeroberfläche der Computekonfiguration die folgenden Eigenschaften ein. Informationen zu diesen Eigenschaften finden Sie unter Spark-Konfiguration.

• Um die Außerbetriebnahme für Anwendungen zu aktivieren, geben Sie diese Eigenschaft in das Feld Spark-Konfiguration ein:

  spark.decommission.enabled true
  

• Um die Shuffle-Datenmigration während der Außerbetriebnahme zu aktivieren, geben Sie diese Eigenschaft in das Feld Spark-Konfiguration ein:

  spark.storage.decommission.enabled true
  spark.storage.decommission.shuffleBlocks.enabled true
  

• Um die RDD-Cache-Datenmigration während der Außerbetriebnahme zu aktivieren, geben Sie diese Eigenschaft in das Feld Spark-Konfiguration ein:

  spark.storage.decommission.enabled true
  spark.storage.decommission.rddBlocks.enabled true
  

  Hinweis

  Wenn die RDD StorageLevel-Replikation auf mehr als 1 festgelegt ist, empfiehlt Databricks nicht, die RDD-Datenmigration zu aktivieren, da die Replikate sicherstellen, dass RDDs keine Daten verlieren.

• Um die Außerbetriebnahme für Worker zu aktivieren, geben Sie diese Eigenschaft in das Feld Umgebungsvariablen ein :

  SPARK_WORKER_OPTS="-Dspark.decommission.enabled=true"
  

Anzeigen des Außerbetriebnahmestatus und der Verlustursache auf der Benutzeroberfläche

Um über die Benutzeroberfläche auf den Außerbetriebnahmestatus eines Workers zu zugreifen, navigieren Sie zur Registerkarte Spark Compute UI – Master.

Wenn die Außerbetriebnahme abgeschlossen ist, können Sie den Verlustgrund des Executors auf der Registerkarte Spark-Benutzeroberfläche > Executors auf der Seite mit den Computedetails anzeigen.