Delta Live Tables リリース 2022.37

2022 年 9 月 14 日から 22 日

これらの機能と機能強化は、Delta Live Tables の 2022.37 リリースでリリースされました。

このリリースで使用される Databricks Runtime のバージョン

チャネル:

  • CURRENT (既定値): Databricks Runtime 10.3.7
  • PREVIEW: Databricks Runtime 11.0.5

このリリースの新機能と機能強化

  • 更新開始 API 要求は、応答本文の request_id フィールドを返すようになりました。 request_id は、更新を開始する元の要求の安定した識別子です。 更新が再試行されたり再開したりする場合は、新しい更新によって request_id が継承されます。
{
  "update_id": "the ID of the update that was started",
  "request_id": "The ID of the request that started this update"
}

新しい requests API 要求 (GET /pipelines/{pipeline_id}/requests/{request_id}) は、request_id に関連付けられているパイプライン更新の状態を返します。 応答には、最新の更新プログラムに関する情報が含まれます。

{
   "status": "ACTIVE",
   "latest_update": {
   }
 }
  • Python コードで、具体化されたビューまたはストリーミング テーブルから操作が読み取られない限り、dlt.table() または dlt.view() 関数の外部で spark.sql 操作を呼び出せるようになりました。

  • イベント ログ エントリにイベント スキーマの安定性を示す maturity プロパティが含まれるようになりました。 指定できる値は、stableevolvingdeprecated です。 Delta Live Tables イベント ログの詳細については、「Delta Live Tables イベント ログとは」を参照してください。

  • ストリーミング テーブルで使用されるソース テーブルに互換性のない変更が加えられたときのエラー メッセージが改善されます。

  • パイプラインを作成または編集する際に、Delta Live Tables UI でクラスターポリシーを選択できるようになりました。 これまで、パイプラインのクラスター ポリシーを設定するには、パイプラインの JSON 設定を編集する必要がありました。

  • パイプラインの起動の高速化。 このリリースには、パイプラインの開始時に SETTING_UP_TABLES ステップを高速化する機能強化が含まれています。

このリリースのバグ修正

  • このリリースでは、アイドル状態のクラスター インスタンスが使用できない場合に、拡張自動スケールのスケールアップを妨げるバグが修正されました。