Criteri di manutenzione dei modelli di intelligenza artificiale generativi

Questo articolo descrive i criteri di manutenzione del modello per le API del modello Foundation, offerte su base pagamento per token, e per il perfezionamento del modello con Foundation Model Fine-tuning.

Per continuare a supportare i modelli più all'avanguardia, Databricks potrebbe aggiornare i modelli supportati o ritirare i modelli meno recenti per le API del modello di base con pagamento in base al token e le offerte di ottimizzazione del modello foundation.

Politica di pensionamento del modello

Le seguenti politiche di cessazione si applicano solo ai modelli di chat e completamento supportati nelle API dei Modelli di Base con pagamento per token e nelle offerte di ottimizzazione dei Modelli di Base.

Quando un modello viene ritirato, non è più disponibile per l'uso e viene rimosso dalle offerte di funzionalità indicate. Databricks esegue i passaggi seguenti per notificare ai clienti un modello impostato per il ritiro:

• Nella scheda modello viene visualizzato un messaggio di avviso dalla pagina Serve dell'area di lavoro di Databricks che indica che il modello è pianificato per il ritiro.
• Viene visualizzato un messaggio di avviso nel menu a discesa per l'ottimizzazione del modello foundation nella scheda Esperimenti che indica che il modello è pianificato per il ritiro.
• La documentazione applicabile contiene un avviso che indica che il modello è previsto per il ritiro e la data a partire dalla quale non sarà più supportato.

Dopo che gli utenti ricevono una notifica sul ritiro imminente del modello, Databricks ritirerà il modello in tre mesi. Durante questo periodo di tre mesi, i clienti possono:

• Scegli di eseguire la migrazione a un endpoint con capacità di elaborazione fornita per continuare a usare il modello oltre la sua data di fine supporto.
• Eseguire la migrazione dei flussi di lavoro esistenti per usare i modelli di sostituzione consigliati.

Nella data di ritiro il modello viene rimosso dal prodotto e la documentazione applicabile viene aggiornata per consigliare l'uso di un modello sostitutivo.

Per un elenco dei modelli attualmente ritirati e delle date di ritiro pianificate, vedere Modelli ritirati.

Aggiornamenti del modello

Databricks potrebbe distribuire aggiornamenti incrementali ai modelli con pagamento in base al token per offrire ottimizzazioni. Quando un modello viene aggiornato, l'URL dell'endpoint rimane invariato, ma l'ID modello nell'oggetto risposta cambia in modo da riflettere la data dell'aggiornamento. Ad esempio, se un aggiornamento viene fornito a meta-llama/Meta-Llama-3.3-70B il 3/4/2024, il nome del modello nell'oggetto risposta viene aggiornato a meta-llama/Meta-Llama-3.3-70B-030424. Databricks gestisce una cronologia delle versioni degli aggiornamenti a cui è possibile fare riferimento.

modelli ritirati

Le sezioni seguenti riepilogano i ritiri dei modelli correnti e futuri per le API del modello di base con pagamento in base al token e le offerte di ottimizzazione del modello di base.

Ritiri del modello di base

La tabella seguente illustra le famiglie di modelli ritirati, le date di ritiro e le famiglie di modelli di sostituzione consigliate da usare per i carichi di lavoro di ottimizzazione del modello foundation. Databricks consiglia di eseguire la migrazione delle applicazioni per l'uso di modelli sostitutivi prima della data di ritiro indicata.

Ritiri delle API del modello di base con pagamento in base al token

La tabella seguente illustra i ritiri dei modelli, le date di ritiro e i modelli di sostituzione consigliati da usare per le API modello di base che pagano per token i carichi di lavoro. Databricks consiglia di eseguire la migrazione delle applicazioni per l'uso di modelli sostitutivi prima della data di ritiro indicata.

Se hai bisogno di supporto a lungo termine per una versione specifica del modello, Databricks consiglia di utilizzare le API del modello di base per la velocità effettiva con provisioning per i carichi di lavoro di servizio.