Aggiornamento di Azure OpenAI di agosto 2024 di cui è stato effettuato il provisioning

A metà agosto 2024, Microsoft ha lanciato miglioramenti all'offerta Velocità effettiva con provisioning che risponde ai commenti e suggerimenti dei clienti sull'usabilità e sull'agilità operativa che aprono nuove opzioni di pagamento e scenari di distribuzione.

Questo articolo è destinato agli utenti esistenti dell'offerta di velocità effettiva con provisioning. I nuovi clienti devono fare riferimento alla guida all'onboarding con provisioning di Azure OpenAI.

Modifiche introdotte

Le funzionalità seguenti vengono implementate per l'offerta gestita con provisioning.

Miglioramenti per l'usabilità

Nuovo modello commerciale di prenotazione/ora

Dettagli del miglioramento dell'usabilità

La granularità della quota di cui è stato effettuato il provisioning cambia da specifica del modello a indipendente dal modello. Invece di ogni modello e versione all'interno di una sottoscrizione e di un'area con un proprio limite di quota, è presente un singolo elemento quota per sottoscrizione e area che limita il numero totale di PTU che possono essere distribuiti in tutti i modelli e le versioni supportati.

Quota indipendente dal modello

A partire dal 12 agosto 2024, la quota corrente dei clienti esistenti specifica del modello è stata convertita in una quota indipendente dal modello. Avviene automaticamente. Nella transizione non viene persa alcuna quota. I limiti di quota esistenti vengono sommati e assegnati a un nuovo elemento di quota indipendente dal modello.

La nuova quota indipendente dal modello viene visualizzata come elemento quota denominato Unità elaborata gestita con provisioning, con modello e versione non più inclusi nel nome. Nel riquadro Quota di Studio espandere l'elemento quota mostra ancora tutte le distribuzioni che contribuiscono all'elemento quota.

Quota predefinita

Alle sottoscrizioni nuove ed esistenti viene assegnata una piccola quantità di quota di cui è stato effettuato il provisioning in molte aree. In questo modo i clienti possono iniziare a usare tali aree senza dover richiedere prima la quota.

Per i clienti esistenti, se l'area contiene già un'assegnazione di quota, il limite di quota non viene modificato per l'area. Ad esempio, non viene aumentato automaticamente dalla nuova quantità predefinita.

Richieste di quota self-service

I clienti non possono più ottenere la quota contattando i team di vendita. Usano invece il modulo di richiesta di quota self-service e specificano il tipo di quota PTU-Managed. Il modulo è accessibile da un link a destra dell'elemento quota. La destinazione consiste nel rispondere a tutte le richieste di quota entro due giorni lavorativi.

Lo screenshot della quota seguente mostra la quota indipendente dal modello usata dalle distribuzioni di tipi diversi, nonché il link per richiedere una quota aggiuntiva.

Quota come limite

Prima dell'aggiornamento di agosto, Il provisioning di Azure OpenAI era disponibile solo per alcuni clienti e la quota è stata allocata per massimizzare la possibilità di distribuirle e usarle. Con queste modifiche, il processo di acquisizione della quota è semplificato per tutti gli utenti e si verifica una maggiore probabilità di entrare in limitazioni della capacità del servizio quando si tentano distribuzioni. Sono disponibili una nuova esperienza API e Studio per aiutare gli utenti a trovare aree in cui la sottoscrizione ha quota e il servizio ha capacità di supportare le distribuzioni di un modello desiderato.

È anche consigliabile che i clienti che usano impegni ora creino le distribuzioni prima di creare o espandere gli impegni per coprirli. Ciò garantisce che la capacità sia disponibile prima di creare un impegno e impedisce l'over-purchase dell'impegno. A tal fine, la restrizione che impediva la creazione di distribuzioni di dimensioni maggiori dei relativi impegni è stata rimossa. Questo nuovo approccio alla quota, alla disponibilità della capacità e agli impegni corrisponde a ciò che viene fornito nel modello orario/di prenotazione e le linee guida da distribuire prima di acquistare un impegno (o una prenotazione, nel caso del modello orario) sono identiche per entrambi.

Per altre informazioni, fare clic sui collegamenti seguenti. Le linee guida per prenotazioni e impegni sono le stesse:

• Trasparenza della capacità
• Prenotazioni di dimensionamento

Nuovo modello di pagamento di prenotazione oraria

Microsoft ha introdotto un nuovo modello di pagamento "Oraria/prenotazione" per le distribuzioni con provisioning. Oltre al modello di pagamentoImpegno corrente, che continuerà a essere supportato almeno fino alla fine del 2024.

Modello di pagamento dell'impegno

• È necessario un impegno mensile a livello di area per usare il provisioning (termini più lunghi disponibili contrattualmente).

• Gli impegni sono associati alle risorse OpenAI di Azure, rendono così difficile lo spostamento delle distribuzioni tra le risorse.

• Non è possibile annullare o modificare gli impegni durante il periodo, ad eccezione dell'aggiunta di nuovi PTU.

• Supporta i modelli rilasciati prima del 1° agosto 2024.

Modello di pagamento con prenotazione oraria

• Il modello di pagamento è allineato agli standard di Azure per altri prodotti.

• L'utilizzo orario è supportato, senza impegno.

• È possibile acquistare sconti mensili e annuali come prenotazioni di Azure a livello di area.

• Le prenotazioni possono essere limitate in modo flessibile per coprire più sottoscrizioni e l'ambito può essere modificato a metà termine.

• Supporta tutti i modelli, sia vecchi che nuovi.

Framework del modello di pagamento

Con il rilascio del modello di pagamento orario/riservato, le opzioni di pagamento sono più flessibili e il modello relativo ai pagamenti con provisioning è cambiato. Quando gli impegni mensili erano l'unico modo per acquistare il provisioning, il modello era:

1. Ottenere una quota PTU dal team dell'account Microsoft.
2. Quota "Acquisto" da un impegno nella risorsa in cui si vuole distribuire.
3. Creare distribuzioni nella risorsa fino al limite dell'impegno.

La differenza principale tra questo modello e quello nuovo è che in precedenza l'unico modo per pagare per il provisioning era tramite uno sconto mensile. A questo punto, è possibile distribuire e pagare le distribuzioni ogni ora se lo si desidera e si decide separatamente se applicare loro uno sconto tramite un impegno mensile (come prima) o una prenotazione di Azure.

Con queste informazioni dettagliate, il nuovo modo di pensare ai modelli di pagamento è il seguente:

1. Ottenere una quota PTU usando il modulo self-service.
2. Creare distribuzioni usando la quota.
3. Facoltativamente, acquistare o estendere un impegno o una prenotazione per applicare uno sconto a termini alle distribuzioni.

I passaggi 1 e 2 sono gli stessi in tutti i casi. La differenza è se un impegno o una prenotazione di Azure viene usato come veicolo per fornire lo sconto. In entrambi i modelli:

• È possibile distribuire più PTU rispetto allo sconto. (ad esempio, la creazione di una distribuzione a breve termine per provare un nuovo modello è abilitata distribuendo senza acquistare uno sconto)

• Il metodo di sconto (impegno o prenotazione) applica il prezzo scontato a un numero fisso di PTU e ha un ambito che definisce quali distribuzioni vengono conteggiate rispetto allo sconto.

  Tipo di sconto	Ambiti disponibili (all'interno di un'area)
  Impegno	Risorsa OpenAI di Azure
  Row2	Gruppo di risorse, sottoscrizione singola, gruppo di gestione (gruppo di sottoscrizioni), condiviso (tutte le sottoscrizioni in un account di fatturazione)

• Il prezzo scontato viene applicato alle PTU distribuite fino al numero di PTU scontate nello sconto.

• Il numero di PTU distribuite che superano i PTU scontate (o non coperti da alcun sconto) viene addebitata la tariffa oraria.

• La procedura consigliata consiste innanzitutto nel creare distribuzioni e successivamente applicare sconti. Si tratta di garantire tale servizio. la capacità è disponibile per supportare le distribuzioni prima di creare un impegno a termine per le unità PTU che non è possibile usare.

Mapping delle distribuzioni al metodo di sconto

I clienti che usano Azure OpenAI Con provisioning prima di agosto 2024 possono usare entrambi i modelli di pagamento contemporaneamente all'interno di una sottoscrizione. Il modello di pagamento usato per ogni distribuzione viene determinato in base alla risorsa OpenAI di Azure:

La risorsa ha un impegno attivo

• L'impegno sconti tutte le distribuzioni sulla risorsa fino al numero di PTU per l'impegno. Eventuali PTU in eccesso verranno fatturati ogni ora.

La risorsa non ha un impegno attivo

• Le distribuzioni nella risorsa sono idonee per essere scontate da una prenotazione di Azure. Affinché queste distribuzioni vengano scontate, devono esistere nell'ambito di una prenotazione attiva. Tutte le distribuzioni all'interno dell'ambito della prenotazione (incluse le distribuzioni di altre risorse nella stessa o in altre sottoscrizioni) verranno scontate come gruppo fino al numero di PTU nella prenotazione. Eventuali PTU in eccesso verranno fatturati ogni ora.

Modifiche alla modalità di pagamento esistente

I clienti che oggi hanno impegni possono continuare a usarli almeno fino alla fine del 2024. Ciò include l'acquisto di nuove PTU per impegni nuovi o esistenti e la gestione dei comportamenti di rinnovo dell'impegno. Tuttavia, l'aggiornamento di agosto ha modificato alcuni aspetti dell'operazione di impegno.

• Solo i modelli rilasciati come di cui è stato effettuato il provisioning prima del 1° agosto 2024 o prima possono essere distribuiti in una risorsa con un impegno.

• Se le PTU distribuite con un impegno superano le PTU di cui è stato eseguito il commit, gli addebiti per l'eccedenza oraria verranno generati rispetto allo stesso contatore orario usato per il nuovo modello di pagamento orario/prenotazione. In questo modo gli addebiti per l'eccedenza possono essere scontati tramite una prenotazione di Azure.

• È possibile distribuire più PTU di quanto sia stato eseguito il commit nella risorsa. Ciò supporta la possibilità di garantire la disponibilità della capacità prima di aumentare le dimensioni dell'impegno per coprirlo.

Migrazione di risorse esistenti senza impegni

I clienti esistenti possono scegliere di eseguire la migrazione delle risorse esistenti dal modello impegno al modello di pagamento oraria/prenotazione per trarre vantaggio dalla possibilità di distribuire i modelli più recenti o di consolidare lo sconto per distribuzioni diverse in una singola prenotazione.

Sono disponibili due approcci per consentire ai clienti di eseguire la migrazione delle risorse usando il modello Impegno al modello Hourly/Reservation.

Migrazione self-service

L'approccio di migrazione self-service consente a un cliente eliminare organicamente le risorse dai propri impegni consentendo loro di scadere. Il processo di migrazione di una risorsa è il seguente:

• Impostare l'impegno esistente su non completare l'aggiornamento automatico e prendere nota della data di scadenza.

• Prima della data di scadenza, un cliente deve acquistare una prenotazione di Azure che copre il numero totale di PTU di cui è stato eseguito il commit per ogni sottoscrizione. Se una prenotazione esistente ha già la sottoscrizione nel relativo ambito, può essere aumentata di dimensioni per coprire le nuove PTU.

• Alla scadenza dell'impegno, le distribuzioni nella risorsa passeranno automaticamente alla modalità Oraria/Prenotazione con l'utilizzo scontato dalla prenotazione.

Questo approccio di migrazione self-service comporterà una sovrapposizione in cui la prenotazione e l'impegno sono entrambi attivi. Si tratta di una caratteristica di questa modalità di migrazione e il tempo di prenotazione o impegno per questa sovrapposizione non verrà restituito al cliente.

Un approccio alternativo alla migrazione self-service consiste nel cambiare l'acquisto della prenotazione in modo che venga eseguito dopo la scadenza dell'impegno. In questo approccio, le distribuzioni genereranno un utilizzo orario per il periodo compreso tra la scadenza dell'impegno e l'acquisto della prenotazione. Come per il modello precedente, si tratta di una caratteristica di questo approccio e questo utilizzo orario non verrà accreditato.

Vantaggi della migrazione self-service:

• È possibile eseguire la migrazione di singole risorse in momenti diversi.
• I clienti gestiscono la migrazione senza dipendenze da Microsoft.

Svantaggi della migrazione self-service:

• Durante il passaggio dal commit alla fatturazione oraria o alla fatturazione oraria sarà previsto un breve periodo di fatturazione.

Migrazione gestita

L'approccio alla migrazione gestita implica il partner del cliente con Microsoft per eseguire la migrazione bulk di tutti gli impegni PTU in una sottoscrizione o un'area contemporaneamente. Il funzionamento è il seguente:

1. Il cliente coinvolgerà il team dell'account e richiederà una migrazione gestita. Un proprietario della migrazione dal team Microsoft verrà assegnato per assistere il cliente con la migrazione.
2. Verrà selezionata una data in cui verrà eseguita la migrazione di tutte le risorse all'interno di ognuna delle sottoscrizioni e delle aree dei clienti contenenti gli impegni PTU correnti dal commit al modello di fatturazione oraria/prenotazione. È possibile eseguire la migrazione di più sottoscrizioni e aree nella stessa data.
3. Alla data concordata:
   • Il cliente acquisterà prenotazioni internazionali per coprire le PTU di cui è stato eseguito il commit che verranno convertiti e passeranno le informazioni sulla prenotazione al proprio contatto di migrazione Microsoft.
   • Entro 2-3 giorni lavorativi, tutti gli impegni verranno annullati in modo proattivo e le distribuzioni in precedenza soggette agli impegni inizieranno a usare il modello di pagamento orario/prenotazione.
   • Nel periodo di fatturazione successivo a quello con l'acquisto della prenotazione, il cliente riceverà un credito per l'acquisto della prenotazione che copre le parti degli impegni annullati, a partire dal momento dell'acquisto della prenotazione.

I clienti devono contattare i team dell'account per pianificare una migrazione gestita.

Vantaggi della migrazione gestita:

• La migrazione in blocco di tutti gli impegni in una sottoscrizione/area è utile per i clienti con molti impegni.
• Migrazione dei costi senza problemi: nessuna possibilità di fatturazione doppia o costi orari aggiuntivi.

Svantaggi della migrazione gestita:

• È necessario eseguire la migrazione di tutti gli impegni in una sottoscrizione/in un'area contemporaneamente.
• È necessario coordinare un periodo di migrazione con il team Microsoft.

Gestione degli impegni di velocità effettiva con provisioning

Gli impegni di velocità effettiva con provisioning vengono creati e gestiti dal menu Gestisci impegni in Studio di Azure OpenAI. È possibile passare a questa vista selezionando Gestisci impegni nel menu Quota:

Nella vista Gestisci impegni è possibile eseguire diverse operazioni:

• Acquistare nuovi impegni o modificare gli impegni esistenti.
• Monitorare tutti gli impegni nella sottoscrizione.
• Identificare e intervenire sugli impegni che potrebbero causare fatturazione imprevista.

Le sezioni seguenti illustrano queste attività.

Acquistare un impegno per la velocità effettiva con provisioning

Con il piano di impegno pronto, il passaggio successivo consiste nel creare gli impegni. Gli impegni vengono creati manualmente tramite Studio di Azure OpenAI e richiedono all'utente di creare l'impegno per ricoprire il ruolo Collaboratore o Collaboratore Servizi cognitivi a livello di sottoscrizione.

Per ogni nuovo impegno da creare, seguire questa procedura:

1. Avviare la finestra di dialogo di acquisto della Velocità effettiva con provisioning selezionando Quote>Con provisioning>Gestisci impegni.

2. Selezionare Acquista impegno.

3. Selezionare la risorsa OpenAI di Azure e acquistare l'impegno. Le risorse saranno visualizzate suddivise tra risorse con impegni esistenti, che è possibile modificare, e risorse che attualmente non hanno un impegno.

4. Selezionare Acquista. Verrà visualizzata una finestra di dialogo di conferma. Dopo aver verificato, verrà eseguito il commit delle unità PTU e sarà possibile usarle per creare una distribuzione con provisioning. |

Modificare un impegno esistente per la velocità effettiva con provisioning

Nella visualizzazione Gestisci impegni è anche possibile modificare un impegno esistente. Esistono due tipi di modifiche che è possibile apportare a un impegno esistente:

• È possibile aggiungere PTU all'impegno.
• È possibile modificare le impostazioni di rinnovo.

Per modificare un impegno, selezionare l'elemento corrente da modificare e quindi selezionare Modifica impegno.

Aggiunta di unità elaborate con provisioning agli impegni esistenti

L'aggiunta di PTU a un impegno esistente consentirà di creare distribuzioni di dimensioni maggiori o più numerose all'interno della risorsa. È possibile eseguire questa operazione in qualsiasi momento durante il periodo di impegno.

Modifica delle impostazioni di rinnovo

Le impostazioni di rinnovo dell'impegno possono essere modificate in qualsiasi momento prima della data di scadenza dello stesso. Motivi per cui si desidera modificare le impostazioni di rinnovo includono la fine dell'uso della velocità effettiva con provisioning attraverso l’impostazione dell'impegno su Non rinnovare automaticamente, o ridurre l'utilizzo della velocità effettiva con provisioning attraverso la diminuzione del numero di PTU di cui verrà eseguito il commit nel periodo successivo.

Monitorare gli impegni e impedire fatturazione impreviste

Il riquadro Gestisci impegni offre una panoramica a livello di sottoscrizione di tutte le risorse con impegni e utilizzo di PTU all'interno di una determinata sottoscrizione di Azure. Di particolare importanza sono:

• PTU di cui è stato eseguito il commit, distribuite e utilizzo – Queste cifre forniscono le dimensioni degli impegni e la quantità in uso da parte delle distribuzioni. Massimizzare l'investimento usando tutte le PTU di cui è stato eseguito il commit.
• Criteri e data di scadenza: la data e i criteri di scadenza indicano quando scade un impegno e cosa accadrà quando lo fa. Un impegno impostato su Rinnova automaticamente genererà un evento di fatturazione alla data di rinnovo. Per gli impegni in scadenza, assicurarsi di eliminare le distribuzioni da queste risorse prima della data di scadenza, così da evitare la fatturazione oraria in eccedenza Le impostazioni di rinnovo correnti per un impegno.
• Notifiche: avvisi relativi a condizioni importanti, ad esempio impegni inutilizzati e configurazioni che potrebbero causare eccedenze di fatturazione. Le eccedenze di fatturazione possono essere causate da situazioni come quando un impegno è scaduto e le distribuzioni sono ancora presenti, ma sono state spostate alla fatturazione oraria.

Scenari comuni di gestione degli impegni

Interruzione dell'uso della velocità effettiva con provisioning

Per terminare l'uso della velocità effettiva con provisioning e impedire addebiti orari per eccedenza dopo la scadenza dell'impegno, arrestare eventuali addebiti dopo la scadenza degli impegni correnti, è necessario eseguire due passaggi:

1. Impostare i criteri di rinnovo per tutti gli impegni su Non rinnovare automaticamente.
2. Eliminare le distribuzioni con provisioning usando la quota.

Spostare un impegno/una distribuzione in una nuova risorsa nella stessa sottoscrizione/area

In Azure OpenAI Studio non è possibile spostare direttamente una distribuzione o un impegno a una nuova risorsa. È invece necessario creare una nuova distribuzione nella risorsa di destinazione e spostare il traffico verso di esso. Per eseguire questa operazione, sarà necessario un impegno acquistato stabilito sulla nuova risorsa. Poiché gli impegni vengono addebitati in anticipo per un periodo di 30 giorni, è necessario eseguire questo spostamento con la scadenza dell'impegno originale per ridurre al minimo la sovrapposizione con il nuovo impegno e la "doppia fatturazione" durante la sovrapposizione.

Per implementare questa transizione, è possibile adottare due approcci.

Opzione 1: cambio senza sovrapposizione

Questa opzione richiede tempi di inattività, ma non necessita di alcuna quota aggiuntiva e non genera costi aggiuntivi.

Opzione2: cambio con sovrapposizione

Questa opzione non prevede tempi di inattività contemporaneamente sia per le distribuzioni esistenti che per le nuove distribuzioni. Ciò richiede la disponibilità della quota per creare la nuova distribuzione e genera costi aggiuntivi per la durata delle distribuzioni sovrapposte.

Se il passaggio finale richiede più tempo del previsto e terminerà dopo la scadenza dell'impegno esistente, sono disponibili tre opzioni per ridurre al minimo gli addebiti per l'eccedenza.

• Attiva tempo di inattività: eliminare la distribuzione originale e completare lo spostamento.
• Paga eccedenza: mantenere la distribuzione originale e pagare ogni ora fino a quando non si è spostato il traffico ed eliminato la distribuzione.
• Reimposta impegno originale per rinnovare un'altra volta. In questo modo sarà possibile completare lo spostamento con un costo noto.

Sia il pagamento per un eccedenza che la reimpostazione dell'impegno originale genereranno addebiti oltre la data di scadenza originale. Il pagamento degli addebiti per eccedenza potrebbe essere più economico di un nuovo impegno mensile, laddove sia necessario solo un giorno o due per completare lo spostamento. Confrontare i costi di entrambe le opzioni per trovare l'approccio più basso.

Spostare la distribuzione in una nuova area e in una nuova sottoscrizione

Gli stessi approcci si applicano allo spostamento dell'impegno e della distribuzione all'interno dell'area, ad eccezione del fatto che la quota disponibile nella nuova località sarà necessaria in tutti i casi.

Visualizzare e modificare una risorsa esistente

In Azure OpenAI Studio selezionare Quota>Con provisioning>Gestisci impegni e selezionare una risorsa con un impegno esistente per visualizzarla/modificarla.