Aktualizace Azure OpenAI zřízená ze srpna 2024

V polovině srpna 2024 společnost Microsoft spustila vylepšení nabídky Zřízená propustnost, která řeší zpětnou vazbu zákazníků na použitelnost a provozní flexibilitu, která otevírá nové možnosti platby a scénáře nasazení.

Tento článek je určený pro stávající uživatele nabídky zřízené propustnosti. Noví zákazníci by se měli podívat na průvodce onboardingem zřízeným pro Azure OpenAI.

Co se mění?

Níže uvedené možnosti se zpřístupňuje pro zřízenou spravovanou nabídku.

Vylepšení použitelnosti

Nový obchodní model za hodinu/rezervace

Podrobnosti o vylepšení použitelnosti

Členitost zřízené kvóty se mění z modelu na model nezávislý na modelu. Místo jednotlivých modelů a verzí v rámci předplatného a oblasti, které mají vlastní limit kvóty, existuje jedna položka kvóty pro každé předplatné a oblast, která omezuje celkový počet PTU, které je možné nasadit napříč všemi podporovanými modely a verzemi.

Kvóta nezávislá na modelu

Od 12. srpna 2024 byla stávající kvóta specifická pro konkrétní model převedena na model nezávislý na modelu. K tomu dochází automaticky. Při přechodu se neztratí žádná kvóta. Existující limity kvót se sečtou a přiřadí se k nové položce kvóty nezávislé na modelu.

Nová kvóta nezávislá na modelu se zobrazí jako položka kvóty s názvem Zřízená jednotka spravované propustnosti s modelem a verzí, které už nejsou součástí názvu. V podokně Kvóta sady Studio se po rozbalení položky kvóty stále zobrazují všechna nasazení, která přispívají k položce kvóty.

Výchozí kvóta

Nová a existující předplatná se přiřazují malé množství zřízené kvóty v mnoha oblastech. To zákazníkům umožňuje začít tyto oblasti používat, aniž by museli nejprve požádat o kvótu.

Pokud už oblast obsahuje přiřazení kvóty, pro stávající zákazníky se limit kvóty nezmění. Například se automaticky nezvýší o novou výchozí částku.

Žádosti o samoobslužnou kvótu

Zákazníci už kvótu nedosáží kontaktováním svých prodejních týmů. Místo toho používají formulář žádosti o samoobslužnou kvótu a určují typ kvóty spravované PTU. Formulář je přístupný z odkazu napravo od položky kvóty. Cílem je reagovat na všechny žádosti o kvótu do dvou pracovních dnů.

Následující snímek obrazovky s kvótou ukazuje kvótu nezávislou na modelu, kterou používají nasazení různých typů, a také odkaz pro vyžádání další kvóty.

Kvóta jako limit

Před srpnovou aktualizací byla zřízená služba Azure OpenAI dostupná jenom několika zákazníkům a kvóta byla přidělena, aby se maximalizovala možnost jejich nasazení a použití. Při těchto změnách je proces získání kvóty pro všechny uživatele zjednodušený a při pokusu o nasazení existuje větší pravděpodobnost, že při pokusu o nasazení dojde k omezení kapacity služby. K dispozici je nové rozhraní API a studio, které uživatelům pomůže najít oblasti, ve kterých má předplatné kvótu a má kapacitu pro podporu nasazení požadovaného modelu.

Doporučujeme také, aby zákazníci, kteří používají závazky, vytvořili svá nasazení před vytvořením nebo rozšířením závazků, aby je pokryli. To zaručuje, že kapacita je k dispozici před vytvořením závazku a zabrání nadměrnému nákupu závazku. Aby bylo možné tuto podporu podpořit, omezení, které zabránilo vytváření nasazení větší než jejich závazky, bylo odebráno. Tento nový přístup k kvótám, dostupnosti kapacity a závazkům odpovídá tomu, co je k dispozici v rámci hodinového modelu nebo modelu rezervace, a pokyny k nasazení před nákupem závazku (nebo rezervace pro hodinový model) jsou pro oba stejné.

Další informace najdete na následujících odkazech. Pokyny pro rezervace a závazky jsou stejné:

• Průhlednost kapacity
• Určení velikosti rezervací

Nový model platby za rezervaci za každou hodinu

Microsoft zavedl nový platební model "Hourly/reservation" pro zřízená nasazení. To je kromě aktuálního modelu platby závazku , který bude podporován alespoň do konce roku 2024.

Model platby závazku

• Regionální měsíční závazek je nutný k používání zřízeného (déle dostupné smluvní podmínky).

• Závazky se vztahují k prostředkům Azure OpenAI, což ztěžuje přesun nasazení napříč prostředky.

• Závazky nelze během jejich období zrušit ani změnit, s výjimkou přidání nových PTU.

• Podporuje modely vydané před 1. srpnem 2024.

Model platby za rezervaci po hodinách

• Platební model je v souladu se standardy Azure pro ostatní produkty.

• Hodinové využití se podporuje bez závazku.

• Slevy na jeden měsíc a jeden rok je možné zakoupit jako regionální rezervace Azure.

• Rezervace je možné pružně nastavit tak, aby pokrývala více předplatných a rozsah je možné změnit v polovině období.

• Podporuje všechny modely, staré i nové.

Architektura platebního modelu

S vydáním hodinového nebo rezervovaného platebního modelu jsou možnosti platby flexibilnější a model kolem zřízených plateb se změnil. Když byly závazky na jeden měsíc jediným způsobem, jak nákup zřídit, model byl:

1. Získejte kvótu PTU od týmu účtu Microsoft.
2. Kvóta nákupu od závazku u prostředku, do kterého chcete nasadit.
3. Vytvořte nasazení prostředku až do limitu závazku.

Klíčovým rozdílem mezi tímto modelem a novým modelem je, že jediný způsob platby za zřízené služby byl prostřednictvím měsíční slevy. Teď můžete nasazení a platit za nasazení každou hodinu, pokud se rozhodnete a rozhodnete se, jestli je chcete zlevnit prostřednictvím závazku na jeden měsíc (například předtím) nebo rezervace Azure.

S tímto přehledem je nový způsob, jak přemýšlet o platebních modelech, následující:

1. Získejte kvótu PTU pomocí samoobslužného formuláře.
2. Vytvořte nasazení pomocí kvóty.
3. Volitelně si můžete zakoupit nebo prodloužit závazek nebo rezervaci, aby se na vaše nasazení použila sleva za období.

Kroky 1 a 2 jsou ve všech případech stejné. Rozdíl spočívá v tom, jestli se jako vozidlo k poskytnutí slevy používá závazek nebo rezervace Azure. V obou modelech:

• Je možné nasadit více PTU než slevu. (například vytvoření krátkodobého nasazení pro vyzkoušení nového modelu je povolené nasazením bez zakoupení slevy).

• Metoda slevy (závazek nebo rezervace) uplatňuje zvýhodněnou cenu na pevný počet PTU a má rozsah, který definuje, která nasazení se započítávají do slevy.

  Typ slevy	Dostupné obory (v rámci oblasti)
  Závazky	Prostředek Azure OpenAI
  Řádek 2	Skupina prostředků, jedno předplatné, skupina pro správu (skupina předplatných), sdílená (všechna předplatná ve fakturačním účtu)

• Zvýhodněná cena se uplatňuje na nasazené PTU až do počtu zlevněných PTU ve slevě.

• Počet nasazených PTU překračujících diskontní počet PTU (nebo se na ně nevztahuje žádná sleva), se účtuje hodinová sazba.

• Osvědčeným postupem je nejprve vytvořit nasazení a pak uplatnit slevy. To je zárukou této služby. kapacita je k dispozici pro podporu vašich nasazení před vytvořením závazku období pro PTU, které nemůžete použít.

Mapování nasazení na metodu slev

Zákazníci, kteří používají Azure OpenAI Provisioned před srpnem 2024, můžou v rámci předplatného používat buď nebo oba platební modely současně. Platební model použitý pro každé nasazení se určuje na základě prostředku Azure OpenAI:

Prostředek má aktivní závazek

• Závazek slevuje všechna nasazení na prostředek až do počtu PTU závazku. Všechny nadbytečné jednotky PTU se budou účtovat každou hodinu.

Prostředek nemá aktivní závazek

• Nasazení v rámci prostředku mají nárok na slevu rezervací Azure. Aby se tato nasazení zlevněla, musí existovat v rámci aktivní rezervace. Všechna nasazení v rozsahu rezervace (včetně možných nasazení u jiných prostředků ve stejném nebo jiném předplatném) se zlevní jako skupina až do počtu PTU v rezervaci. Všechny nadbytečné jednotky PTU se budou účtovat každou hodinu.

Změny existujícího režimu platby

Zákazníci, kteří dnes mají závazky, je mohou nadále používat až do konce roku 2024. To zahrnuje nákup nových PTU na nové nebo stávající závazky a řízení chování prodloužení závazku. Srpnová aktualizace ale změnila určité aspekty provozu závazku.

• Na prostředek s závazkem je možné nasadit pouze modely vydané jako zřízené před 1. srpnem 2024 nebo dříve.

• Pokud nasazené PTU v rámci závazku překročí potvrzené jednotky PTU, budou se poplatky za nadlimitní využití každou hodinu vygenerovat na stejný hodinový měřič, který se používá pro nový hodinové nebo rezervační platební model. To umožňuje slevy za nadlimitní využití prostřednictvím rezervace Azure.

• U prostředku je možné nasadit více PTU, než je potvrzeno. To podporuje možnost zaručit dostupnost kapacity před zvýšením velikosti závazku, aby ji pokryla.

Migrace stávajících prostředků mimo závazky

Stávající zákazníci se můžou rozhodnout migrovat své stávající prostředky ze závazku na platební model každou hodinu nebo rezervace, aby mohli využívat výhod nasazení nejnovějších modelů nebo konsolidovat slevy pro různá nasazení v rámci jedné rezervace.

Pro zákazníky jsou k dispozici dva přístupy k migraci prostředků pomocí modelu závazku na model Hourly/Reservation model.

Samoobslužná migrace

Samoobslužná migrace umožňuje zákazníkovi organické prostředky ze svých závazků tím, že jim umožní vypršet jejich platnost. Proces migrace prostředku je následující:

• Nastavte stávající závazek, aby se neaktualizovat automaticky, a poznamenejte si datum vypršení platnosti.

• Před datem vypršení platnosti by si zákazník měl koupit rezervaci Azure, která pokrývá celkový počet potvrzených PTU na předplatné. Pokud už existující rezervace má předplatné v jejím rozsahu, můžete ho zvětšit, aby pokrývala nové PTU.

• Po vypršení závazku se nasazení v rámci prostředku automaticky přepne do režimu Hourly/Reservation se slevou za využití za rezervaci.

Tento samoobslužný přístup k migraci bude mít za následek překrývání, kdy jsou rezervace i závazek aktivní. To je charakteristické pro tento režim migrace a doba rezervace nebo závazku pro toto překrytí se zákazníkovi nepřipíše zpět.

Alternativním přístupem k samoobslužné migraci je přepnutí nákupu rezervace tak, aby probíhal po vypršení platnosti závazku. V tomto přístupu vygenerují nasazení hodinové využití po dobu mezi vypršením platnosti závazku a nákupem rezervace. Stejně jako u předchozího modelu je to charakteristické pro tento přístup a toto hodinové využití nebude kreditováno.

Výhody samoobslužné migrace:

• Jednotlivé prostředky je možné migrovat v různých časech.
• Zákazníci spravují migraci bez jakýchkoli závislostí na Microsoftu.

Nevýhody samoobslužné migrace:

• Během přechodu z potvrzené na hodinovou fakturaci nebo fakturaci rezervací bude k dispozici krátká doba dvojité fakturace nebo hodinových poplatků.

Spravovaná migrace

Spravovaný přístup k migraci zahrnuje spolupráci se zákazníkem s Microsoftem, aby hromadně migrovali všechny závazky PTU v předplatném nebo oblasti současně. Funguje to takto:

1. Zákazník se spojí se svým týmem účtů a požádá o spravovanou migraci. Vlastník migrace od týmu Microsoftu bude přiřazen, aby pomohl zákazníkovi s migrací.
2. Datum se vybere, když se všechny prostředky v rámci předplatných a oblastí zákazníků, které obsahují aktuální závazky PTU, migrují z závazku na model fakturace za hodinu nebo rezervace. Ke stejnému datu je možné migrovat více předplatných a oblastí.
3. O schváleném datu:
   • Zákazník si koupí regionální rezervace, aby pokryly potvrzené PTU, které se převedou, a předá informace o rezervaci svému kontaktu s migrací Microsoftu.
   • Do 2 až 3 pracovních dnů se všechny závazky proaktivně zruší a nasazení dříve v rámci závazků začnou používat model platby za hodinu nebo rezervaci.
   • V fakturačním období po uplynutí fakturačního období s nákupem rezervace obdrží zákazník kredit na nákup rezervace, který pokrývá části zrušených závazků, počínaje časem nákupu rezervace.

Zákazníci se musí spojit se svými týmy účtů, aby mohli naplánovat spravovanou migraci.

Výhody spravované migrace:

• Hromadná migrace všech závazků v předplatném nebo oblasti je výhodná pro zákazníky s mnoha závazky.
• Bezproblémová migrace nákladů: Bez možnosti dvojité fakturace nebo dalších hodinových poplatků.

Nevýhody spravované migrace:

• Všechny závazky v předplatném nebo oblasti se musí migrovat současně.
• Potřebujeme koordinovat čas migrace s týmem Microsoftu.

Správa závazků zřízené propustnosti

Závazky zřízené propustnosti se vytvářejí a spravují v nabídce Spravovat závazky v nástroji Azure OpenAI Studio. Do tohoto zobrazení můžete přejít tak , že v nabídce Kvóta vyberete Spravovat závazky :

V zobrazení Spravovat závazky můžete udělat několik věcí:

• Kupte si nové závazky nebo upravte stávající závazky.
• Monitorujte všechny závazky ve vašem předplatném.
• Identifikujte závazky, které by mohly způsobit neočekávanou fakturaci, a proveďte příslušné kroky.

Následující části vás provedou těmito úkoly.

Nákup závazku zřízené propustnosti

S připraveným plánem závazku je dalším krokem vytvoření závazků. Závazky se vytvářejí ručně přes Azure OpenAI Studio a vyžadují, aby uživatel, který vytváří závazek, měl na úrovni předplatného roli Přispěvatel nebo Přispěvatel služeb Cognitive Services.

Pro každý nový závazek, který potřebujete vytvořit, postupujte takto:

1. Výběrem kvót>zřízená>správa závazků spusťte dialogové okno Nákup zřízené propustnosti.

2. Vyberte Nákupní závazek.

3. Vyberte prostředek Azure OpenAI a kupte si závazek. Zobrazí se prostředky rozdělené na prostředky se stávajícími závazky, které můžete upravovat a prostředky, které momentálně nemají závazek.

4. Vyberte Koupit. Zobrazí se potvrzovací dialogové okno. Po potvrzení se vaše PTU potvrdí a můžete je použít k vytvoření zřízeného nasazení. |

Úprava stávajícího závazku zřízené propustnosti

V zobrazení Spravovat závazky můžete také upravit stávající závazek. U stávajícího závazku můžete provést dva typy změn:

• K závazku můžete přidat PTU.
• Nastavení prodlužování platnosti můžete změnit.

Pokud chcete upravit závazek, vyberte aktuální, který chcete upravit, a pak vyberte Upravit závazek.

Přidání zřízených jednotek propustnosti ke stávajícím závazkům

Přidání PTU do existujícího závazku vám umožní vytvořit větší nebo více nasazení v rámci prostředku. Můžete to provést kdykoli během období závazku.

Změna nastavení prodlužování platnosti

Nastavení prodloužení závazku je možné kdykoli změnit před datem vypršení platnosti závazku. Mezi důvody, proč můžete chtít změnit nastavení prodloužení, patří ukončení využití zřízené propustnosti nastavením závazku k automatickému obnovení nebo snížením využití zřízené propustnosti snížením počtu PTU, které se potvrdí v dalším období.

Monitorování závazků a prevence neočekávaných fakturací

Podokno spravovat závazky poskytuje široký přehled všech prostředků se závazky a využití PTU v rámci daného předplatného Azure. Zvláštní význam je:

• PtU potvrzené, nasazené a využití – tyto údaje poskytují velikosti vašich závazků a množství využití nasazením. Maximalizujte své investice pomocí všech vašich potvrzených PTU.
• Zásady vypršení platnosti a datum – Datum vypršení platnosti a zásada vám sdělí, kdy vyprší platnost závazku a co se stane, když k tomu dojde. Závazek nastavený na autorenew vygeneruje fakturační událost k datu prodloužení. U závazků, jejichž platnost vyprší, nezapomeňte před datem vypršení platnosti odstranit nasazení z těchto prostředků, abyste zabránili fakturaci nadlimitního využití po hodinách. Aktuální nastavení prodloužení závazku.
• Oznámení – Výstrahy týkající se důležitých podmínek, jako jsou nepoužité závazky, a konfigurace, které můžou mít za následek nadlimitní využití fakturace. Nadlimitní využití fakturace můžou být způsobené situacemi, jako jsou situace, kdy vypršela platnost závazku a nasazení jsou stále k dispozici, ale přesunuli se na hodinovou fakturaci.

Běžné scénáře správy závazků

Ukončení používání zřízené propustnosti

Pokud chcete ukončit využití zřízené propustnosti a zabránit poplatkům za nadlimitní využití po vypršení platnosti závazku, zastavte všechny poplatky po vypršení platnosti aktuálních závazků, je potřeba provést dva kroky:

1. Nastavte zásadu pro prodloužení všech závazků tak, aby se neaktualizovat automaticky.
2. Odstraňte zřízená nasazení pomocí kvóty.

Přesun závazku nebo nasazení do nového prostředku ve stejném předplatném nebo oblasti

V Nástroji Azure OpenAI Studio není možné přesunout nasazení ani závazek k novému prostředku přímo. Místo toho je potřeba vytvořit nové nasazení v cílovém prostředku a přesunout do něj provoz. K tomuto účelu bude potřeba zakoupit závazek vytvořený pro nový prostředek. Vzhledem k tomu, že se závazky účtují předem na 30denní období, je nutné tento krok s vypršením platnosti původního závazku minimalizovat překrývání s novým závazkem a "dvojité účtování" během překrývání.

K implementaci tohoto přechodu je možné použít dva přístupy.

Možnost 1: Přepínání bez překrývání

Tato možnost vyžaduje určitý výpadek, ale nevyžaduje žádnou dodatečnou kvótu a nevygeneruje žádné další náklady.

Možnost 2: Překryvný přepínač

Tato možnost nemá žádný výpadek tím, že stávající i nová nasazení budou aktivní současně. To vyžaduje, aby byla k dispozici kvóta pro vytvoření nového nasazení a po dobu trvání překrývajících se nasazení vygeneruje další náklady.

Pokud poslední krok trvá déle, než se čekalo, a dokončí se po vypršení platnosti stávajícího závazku, existují tři možnosti, jak minimalizovat poplatky za nadlimitní využití.

• Proveďte výpadek: Odstraňte původní nasazení a dokončete přesun.
• Nadlimitní využití: Ponechte původní nasazení a platíte každou hodinu, dokud nepřesunete mimo provoz a neodstraníte nasazení.
• Obnovte původní závazek a obnovte ho ještě jednou. Tím získáte čas na dokončení přesunu se známými náklady.

Platba za nadlimitní využití i resetování původního závazku vygeneruje poplatky za původní datum vypršení platnosti. Placení poplatků za nadlimitní využití může být levnější než nový měsíční závazek, pokud k dokončení přesunu potřebujete jenom jeden nebo dva dny. Porovnejte náklady obou možností, abyste našli přístup s nejnižšími náklady.

Přesun nasazení do nové oblasti nebo předplatného

Stejné přístupy platí pro přesun závazku a nasazení v rámci oblasti s tím rozdílem, že ve všech případech bude vyžadována dostupná kvóta v novém umístění.

Zobrazení a úprava existujícího prostředku

V nástroji Azure OpenAI Studio vyberte Závazky správy zřízené>kvóty>a vyberte prostředek s existujícím závazkem k jeho zobrazení nebo změně.