生成 AI モデルのメンテナンス ポリシー

この記事では、Foundation Model API のトークンごとの支払いと Mosaic AI モデル トレーニングのオファリングに関するモデル メンテナンス ポリシーについて説明します。

最新のモデルをサポートし続けるため、Databricks では、Foundation Model API のトークンごとの支払いと Mosaic AI モデル トレーニングのオファリングについて、古いモデルを廃止したり、サポートされているモデルを更新したりする場合があります。

モデル廃止ポリシー

次の廃止ポリシーは、チャットと入力候補モデルにのみ適用されます。

モデルが廃止に設定されている場合、Databricks は次の手順を行ってお客様に通知します。

• Databricks ワークスペースの [サービス] ページのモデル カードに、モデルの廃止が計画されていることを示す警告メッセージが表示されます。
• [実験] タブの Mosaic AI モデル トレーニングのドロップダウン メニューに、モデルが廃止される予定であることを示す警告メッセージが表示されます。
• 該当するドキュメントに、モデルが廃止される予定であることを示す通知と、モデルがサポートされなくなる開始日が記載されます。

予定されているモデルの廃止についてお客様に通知した後、Databricks は 3 か月後にモデルを廃止します。 この期間中、お客様はプロビジョニング スループット エンドポイントに移行し、有効期限が過ぎたモデルの使用を継続することができます。

現在廃止されているモデルと廃止予定日の一覧については、「廃止されたモデル」をご覧ください。

モデルの更新

Databricks は、トークンごとの支払いモデルに増分更新プログラムを出荷して、最適化を実現する場合があります。 モデルが更新されると、エンドポイント URL は変わりませんが、応答オブジェクトのモデル ID は更新日を反映するように変更されます。 たとえば、更新プログラムが 2024 年 3 月 4 日に llama-2-70b-chat に出荷された場合、応答オブジェクトのモデル名は、それに応じて llama-2-70b-chat-030424 に更新されます。 Databricks では、お客様が参照できる更新プログラムのバージョン履歴が保持されます。

廃止されたモデル

次の表は、モデルの廃止、その廃止日、および Foundation Model API のトークンごとの支払いサービス ワークロードに使うことが推奨される代替モデルを示したものです。 Databricks では、示されている廃止日より前に、代替モデルを使うようアプリケーションを移行することをお勧めします。

特定のモデル バージョンの長期サポートが必要な場合、Databricks では、提供ワークロードに Foundation Model API のプロビジョニングされたスループットを使うことをお勧めします。