Övervaka Spark-jobb i en notebook-fil

Microsoft Fabric Notebook är en webbaserad interaktiv yta för att utveckla Apache Spark-jobb och utföra maskininlärningsexperiment. Den här artikeln beskriver hur du övervakar förloppet för dina Spark-jobb, får åtkomst till Spark-loggar, får råd i notebook-filen och navigerar till Spark-programinformationsvyn eller Spark-användargränssnittet för mer omfattande övervakningsinformation för hela notebook-filen.

Övervaka Förlopp för Spark-jobb

En förloppsindikator för Spark-jobb tillhandahålls med en förloppsindikator i realtid som hjälper dig att övervaka jobbets körningsstatus för varje notebook-cell. Du kan visa status och uppgifters förlopp i dina Spark-jobb och -faser.

Skärmbild som visar notebook-cellen och förloppslistan för Spark-jobb.

Övervaka resursanvändning

Grafen för körningsanvändning visar visuellt allokeringen av Spark-jobbexekutorer och resursanvändning. För närvarande visas endast körningsinformationen för spark 3.4 och senare den här funktionen. Klicka på fliken Resurser . Linjediagrammet för resursanvändningen för kodcellen visas.

Skärmbild som visar notebook-cell och resursanvändning av kodcell.

Visa Spark Advisor-rekommendationer

En inbyggd Spark-rådgivare analyserar din notebook-kod och Spark-körningar i realtid för att optimera prestanda för din notebook-fil och hjälpa till att felsöka fel. Det finns tre typer av inbyggda råd: Information, Varning och Fel. Ikonerna med tal anger respektive antal råd i varje kategori (information, varning och fel) som genereras av Spark-rådgivaren för en viss notebook-cell.

Om du vill visa råden klickar du på pilen i början för att expandera och visa informationen.

Skärmbild som visar glödlampa.

När du har utökat advisor-avsnittet blir en eller flera råd synliga.

Skärmbild som visar glödlampa för att expandera rutan.

Identifiering av Spark Advisor-skevhet

Datasnedvridning är ett vanligt problem som användare ofta stöter på. Spark-rådgivaren stöder skev identifiering och om skevhet identifieras visas en motsvarande analys nedan.

Skärmbild som visar information om dataförskjutningsanalys.

Komma åt Spark-realtidsloggar

Spark-loggar är viktiga för att hitta undantag och diagnostisera prestanda eller fel. Den sammanhangsberoende övervakningsfunktionen i notebook-filen ger loggarna direkt till dig för den specifika cell som du kör. Du kan söka i loggarna eller filtrera dem efter fel och varningar.

Skärmbild som visar realtidsloggarna under kodcellen.

Om du vill komma åt ytterligare information om Spark-körningen på notebook-nivå kan du gå till sidan med Spark-programinformation eller Spark-användargränssnittet via de alternativ som är tillgängliga på snabbmenyn.

Skärmbild som visar informationssidan för åtkomst spark-gränssnittet och övervakningen.