Databricks Runtime 15.2 for Machine Learning

Databricks Runtime 15.2 for Machine Learning には、Databricks Runtime 15.2 に基づく機械学習とデータ サイエンス向けのすぐに使用できる環境が用意されています。 Databricks Runtime ML には、TensorFlow、PyTorch、XGBoost など、多くの一般的な機械学習ライブラリが含まれています。 Databricks Runtime ML には、機械学習パイプラインを自動的にトレーニングするツールである AutoML が含まれています。 また、Databricks Runtime ML では、Horovod を使用した分散型ディープ ラーニング トレーニングもサポートされます。

新機能と機能強化

Databricks Runtime 15.2 ML は Databricks Runtime 15.2 上に構築されています。 Apache Spark MLlib や SparkR などの、Databricks Runtime 15.2 の新機能については、Databricks Runtime 15.2 リリース ノートを参照してください。

StreamingDataset の追加

StreamingDataset は、クラウド ストレージからの大規模なデータセットに対するトレーニングを、可能な限り高速で安価でスケーラブルに行うために使用されます。 これは、Databricks Runtime 15.2 ML に事前インストールされます。

Azure Databricks Runtime ML CPU クラスターでの Photon のサポート

Databricks Runtime 15.2 ML 以降、CPU クラスターで Photon を有効にすると、Spark SQL と Spark DataFrame のワークロードを高速化できるようになります。

機械学習アプリケーションの場合、Photon を使用すると、次のようなユース ケースでパフォーマンスを高速化できます。

• SQL または DataFrame API を使用したデータ準備。
• ポイントインタイム ルックアップを使用した特徴エンジニアリング。
• GraphFrames を使用したグラフ分析。

Photon では、TensorFlow、PyTorch、XGBoost などの Python ライブラリのパフォーマンスは向上しません。

Spark RDD API と Spark MLlib には、Photon との限定的な互換性があります。 Spark RDD または Spark MLlib を使用して大規模なデータセットを処理すると、Spark メモリの問題が発生する場合があります。 「Spark のメモリの問題」を参照してください。

システム環境

Databricks Runtime 15.2 ML のシステム環境は、Databricks Runtime 15.2 とは次のように異なります:

• GPU クラスターの場合、Databricks Runtime ML には次の NVIDIA GPU ライブラリが含まれています。
  • CUDA 12.1
  • cusolver 11.4.5.107-1
  • cupti 12.1
  • cuDNN 8.9.0.131-1
  • NCCL 2.17.1
  • TensorRT 8.6.1.6-1

ライブラリ

以降のセクションでは、Databricks Runtime 15.2 ML に含まれていて、Databricks Runtime 15.2 に含まれているものとは異なるライブラリ リストを示します。

このセクションの内容は次のとおりです。

• 最上位層ライブラリ
• Python ライブラリ
• R ライブラリ
• Java および Scala ライブラリ (Scala 2.12 クラスター)

最上位層ライブラリ

Databricks Runtime 15.2 ML には、次の最上位層ライブラリが含まれています。

• datasets
• GraphFrames
• MLflow
• PyTorch
• spark-tensorflow-connector
• Scikit-learn
• TensorFlow
• TensorBoard
• transformers

Python ライブラリ

Databricks Runtime 15.2 ML では、Python パッケージ管理に virtualenv が使用されており、一般的な ML パッケージが数多く含まれています。

以下のセクションで指定されているパッケージに加えて、Databricks Runtime 15.2 ML には次のパッケージも含まれています:

• hyperopt 0.2.7+db3
• sparkdl 3.0.0_db1
• automl 1.26.0

ローカルの Python 仮想環境で Databricks Runtime ML Python 環境を再現するには、requirements-15.2.txt ファイルをダウンロードして pip install -r requirements-15.2.txt を実行します。 このコマンドは、Databricks Runtime ML が使用するすべてのオープン ソース ライブラリをインストールしますが、databricks-automl、databricks-feature-engineering、hyperopt の Databricks フォークなど、Databricks によって開発されたライブラリはインストールしません。

CPU クラスター上の Python ライブラリ

GPU クラスター上の Python ライブラリ

R ライブラリ

R ライブラリは、Databricks Runtime 15.2 の R ライブラリと同じです。

Java と Scala のライブラリ (Scala 2.12 クラスター)

Databricks Runtime 15.2 の Java および Scala ライブラリに加えて、Databricks Runtime 15.2 ML には次の JAR が含まれています。

CPU クラスター

GPU クラスター