Azure OpenAI-tjänsten och funktioner i Azure Government

  • Artikel

Den här artikeln belyser skillnaderna när du använder Azure OpenAI i Azure Government jämfört med det kommersiella molnerbjudandet. Läs mer om själva Azure OpenAI-tjänsten i Azure OpenAI Service-dokumentationen.

Azure OpenAI-modeller

Läs mer om de olika funktionerna i varje modell i Azure OpenAI Service-modeller. För kunder med BCDR-överväganden (Business Continuity and Disaster Recovery) bör du noga notera distributionstyper, regioner och modelltillgänglighet nedan eftersom inte alla modell-/typkombinationer är tillgängliga i båda regionerna.

I följande avsnitt visas modelltillgänglighet efter region och distributionstyp.

Standarddistributionsmodelltillgänglighet

Region gpt-35-turbo, 1106 gpt-35-turbo, 0125 gpt-4, 1106-Preview gpt-4o, 2024-05-13 text-embedding-ada-002
usgovarizona - ✅ ✅ ✅ ✅
usgovvirginia ✅ ✅ ✅ - ✅

Om du vill begära kvotökningar för modellen för användningsbaserad användning använder du på https://aka.ms/AOAIGovQuota

Tillgänglighet för etablerad distributionsmodell

Region gpt-35-turbo, 1106 gpt-35-turbo, 0125 gpt-4, 1106-Preview gpt-4o, 2024-05-13
usgovarizona - ✅ - ✅
usgovvirginia - ✅ ✅ ✅

Kommentar

Etablerade dataflödesenheter skiljer sig från standardkvoten i Azure OpenAI och är inte tillgängliga som standard i Azure Government. Om du vill veta mer om det här erbjudandet kontaktar du ditt Microsoft-kontoteam.


Azure OpenAI-funktioner

Funktion beskrivning
Anslut dina data Tillgänglig i USGovVirginia och USGovArizona. Virtuella nätverk och privata länkar stöds. Distribution till en webbapp eller en andrepilot i Copilot Studio stöds inte.
Hanterad identitet Ja, via Microsoft Entra-ID
Stöd för virtuellt nätverk och stöd för privata länkar Ja.
Användargränssnittsupplevelse Azure Portal för konto- och resurshantering
Azure OpenAI Studio för modellutforskning
Övervakning av missbruk Alla funktioner i Missbruksövervakning är inte aktiverade för Azure OpenAI i Azure Government. Du ansvarar för att implementera rimliga tekniska och operativa åtgärder för att identifiera och minimera all användning av tjänsten i strid med produktvillkoren. Automatisk innehållsklassificering och filtrering är fortfarande aktiverat som standard för Azure Government. Om ändrade innehållsfilter krävs, gäller du på https://aka.ms/AOAIGovModifyContentFilter
Datalagring I Azure Government finns det för närvarande inga Azure OpenAI-funktioner som lagrar kunddata i vila. Kundhanterade nycklar (CMK) kan dock fortfarande aktiveras i Azure Government för att stödja användning av samma principer i Azure Government som i det offentliga molnet. Observera också att om Azure OpenAI-funktioner som lagrar kunddata är aktiverade i Azure Government i framtiden tillämpas alla befintliga CMK-distributioner på dessa data vid den tidpunkten. Läs mer i Azure OpenAI Data Privacy.
Regelefterlevnad Visa aktuell status för Azure OpenAI-efterlevnad i Azure Government i Granskningsomfång för Azure Government Services
Tjänstslutpunkter openai.azure.us
Nyckelportaler
  • Azure OpenAI Studio – aoai.azure.us
  • Azure Portal - portal.azure.us

Etablerade distributioner i Azure Government

Följande guide beskriver hur du konfigurerar en etablerad distribution med din Azure OpenAI Service-resurs i Azure Government.

Förutsättningar

  • En Azure Government-prenumeration
  • En Azure OpenAI-resurs
  • En godkänd kvot för en etablerad distribution och köpt ett åtagande

Hantera etablerade dataflödesåtaganden

För Azure OpenAI i Azure Government kräver etablerade dataflödesdistributioner för fördefinierade åtaganden som skapats och hanterats från vyn Hantera åtaganden i Azure OpenAI Studio. Du kan navigera till den här vyn genom att välja Hantera åtaganden i fönstret Kvot.

I vyn Hantera åtaganden kan du göra flera saker:

  • Köp nya åtaganden eller redigera befintliga åtaganden.
  • Övervaka alla åtaganden i din prenumeration.
  • Identifiera och vidta åtgärder för åtaganden som kan orsaka oväntad fakturering.
Inställning Kommentar
Välj en resurs Välj den resurs där du skapar den etablerade distributionen. När du har köpt åtagandet kan du inte använda kvoten på en annan resurs förrän det aktuella åtagandet upphör att gälla.
Välj en åtagandetyp Välj Etablerad. (Etablerad motsvarar Etablerad hanterad)
Aktuell okommenterad etablerad kvot Det antal ptus som för närvarande är tillgängliga för dig att checka in på den här resursen.
Belopp att checka in (PTU) Välj det antal PTU:er som du förbinder dig till. Det här antalet kan ökas under åtagandeperioden, men kan inte minskas. Ange värden i steg om 50 för åtagandetypen Etablerad.
Åtagandenivå för aktuell period Åtagandeperioden är inställd på en månad.
Förnyelseinställningar Autorenew vid aktuella PTU:er
Autorenew vid lägre PTUs
Återskapa inte automatiskt

Viktigt!

Ett nytt åtagande faktureras i förväg för hela perioden. Om förnyelseinställningarna är inställda på automatisk förnyelse debiteras du igen på varje förnyelsedatum baserat på förnyelseinställningarna.

Viktigt!

När du lägger till PTU:er i ett åtagande debiteras de omedelbart till ett proportionellt belopp från aktuellt datum till slutet av den befintliga åtagandeperioden. Att lägga till PTU:er återställer inte åtagandeperioden.

Ändra förnyelseinställningar

Inställningar för förnyelse av åtagande kan ändras när som helst före åtagandets förfallodatum.

Viktigt!

Om du tillåter att ett åtagande upphör att gälla eller minskar i storlek, så att distributionerna under resursen kräver fler PTU:er än vad du har i ditt resursåtagande, får du timavgifter för överförbrukning för eventuella överskjutande PTU:er. Till exempel genererar en resurs som har distributioner som totalt 500 PTUs och ett åtagande för 300 PTU:er timförbrukningsavgifter för 200 PTUs.

Vanliga scenarier för åtagandehantering

Sluta använda etablerat dataflöde

För att sluta använda etablerat dataflöde och förhindra kostnader för överförbrukning per timme efter åtagandets upphörande måste två steg vidtas:

  1. Ange förnyelseprincipen för alla åtaganden till Återskapa inte automatiskt.
  2. Ta bort de etablerade distributionerna med hjälp av kvoten.

Flytta ett åtagande/en distribution till en ny resurs i samma prenumeration/region

Det går inte att flytta en distribution eller ett åtagande till en ny resurs direkt i Azure OpenAI Studio. I stället måste en ny distribution skapas på målresursen och trafiken flyttas till den. Den här processen kräver ett nytt åtagandeköp på den nya resursen. Eftersom åtaganden debiteras i förväg under en 30-dagarsperiod är det nödvändigt att tidsbefria den här flytten med förfallodatumet för det ursprungliga åtagandet för att minimera överlappningen med det nya åtagandet och "dubbelfakturering" under överlappningen.

Det finns två metoder som kan användas för att genomföra den här övergången.

Alternativ 1: Överlappande övergång

Det här alternativet kräver viss stilleståndstid, men kräver ingen extra kvot och genererar inga extra kostnader.

Steg Kommentar
Ange förnyelseprincipen för det befintliga åtagandet så att den upphör att gälla Den här åtgärden förhindrar att åtagandet förnyas och genererar ytterligare avgifter
Innan det befintliga åtagandet upphör att gälla tar du bort distributionen Stilleståndstiden startar nu och kommer att pågå tills den nya distributionen har skapats och trafiken flyttas. Du kan minimera varaktigheten genom att tajma borttagningen så nära förfallodatum/tid som möjligt.
När det befintliga åtagandet har upphört att gälla skapar du åtagandet för den nya resursen Minimera stilleståndstiden genom att köra det här steget och nästa steg så snart som möjligt efter förfallodatumet.
Skapa distributionen på den nya resursen och flytta trafik till den

Alternativ 2: Överlappad övergång

Det här alternativet har ingen stilleståndstid genom att ha både befintliga och nya distributioner live samtidigt. Den här metoden kräver också att kvoten är tillgänglig för att skapa den nya distributionen och genererar extra kostnader under överlappande distributioner.

Steg Kommentar
Ange förnyelseprincipen för det befintliga åtagandet så att den upphör att gälla Detta förhindrar att åtagandet förnyas och genererar ytterligare avgifter.
Innan det befintliga åtagandet upphör att gälla:
1. Skapa åtagandet för den nya resursen.
2. Skapa den nya distributionen.
3. Växla trafik
4. Ta bort befintlig distribution		 Se till att du lämnar tillräckligt med tid för alla steg innan det befintliga åtagandet upphör att gälla, annars genereras överförbrukningsavgifter (se nästa avsnitt) för alternativ.