Apache Spark ジョブの定義を監視する

Spark ジョブ定義項目のインライン監視を使用して、次を追跡できます:

  • 実行中の Spark ジョブ定義の進行状況と状態を監視します。
  • 以前の Spark ジョブ定義の実行の状態と期間を表示します。

この情報は、ワークスペースの [最近の実行] コンテキスト メニューから取得するか、監視ハブの Spark ジョブ定義アクティビティを参照して取得できます。

Spark ジョブ定義のインライン監視

Spark ジョブ定義のインライン監視機能を使用すると、Spark ジョブ定義の送信と実行状態をリアルタイムで表示できます。 Spark ジョブ定義の過去の実行と構成を表示し、「Spark アプリケーションの詳細」ページに移動して詳細を表示することもできます。

Screenshot showing the spark job definition inline monitoring.

ワークスペースの Spark ジョブ定義項目ビュー

ワークスペース ホームページの [最近の実行] コンテキスト メニューを使用して、特定の Spark ジョブ定義項目に関連付けられているジョブ実行にアクセスできます。

Screenshot showing the spark job definition item view in workspace.

Spark ジョブ定義が監視ハブで実行される

Spark ジョブ定義に関連するすべての Spark アプリケーションを表示するには、[監視ハブ] に移動します。 [アイテムの種類] 列を並べ替えるかフィルター処理して、Spark ジョブ定義に関連付けられているすべての実行アクティビティを表示します。

Screenshot showing the spark job definition runs in Monitoring hub.

Apache Spark アプリケーションの詳細を表示した後の次の手順は、[Notebook] セルの下に Spark ジョブの進行状況を表示することです。 以下を参照できます: