Vytvoření a nasazení prostředku služby Azure OpenAI

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů

Vytvoření prostředku

Následující kroky ukazují, jak vytvořit prostředek Azure OpenAI na webu Azure Portal.

Identifikace prostředku

1. Přihlaste se pomocí svého předplatného Azure na webu Azure Portal.

2. Vyberte Vytvořit prostředek a vyhledejte Azure OpenAI. Když službu vyhledáte, vyberte Vytvořit.

   

3. Na stránce Vytvořit Azure OpenAI zadejte následující informace pro pole na kartě Základy:

   Pole	Popis
   Předplatné	Předplatné Azure použité ve vaší aplikaci onboardingu služby Azure OpenAI.
   Skupina prostředků	Skupina prostředků Azure, která bude obsahovat váš prostředek Azure OpenAI. Můžete vytvořit novou skupinu nebo použít již existující skupinu.
   Oblast	Umístění vaší instance. Různá umístění můžou zavádět latenci, ale nemají vliv na dostupnost modulu runtime vašeho prostředku.
   Název	Popisný název prostředku služby Azure OpenAI, například MyOpenAIResource.
   Cenová úroveň	Cenová úroveň prostředku. V současné době je pro službu Azure OpenAI dostupná jenom úroveň Standard. Další informace o cenách najdete na stránce s cenami Azure OpenAI.

   

4. Vyberte Další.

Konfigurace zabezpečení sítě

Karta Síť obsahuje tři možnosti pro typ zabezpečení:

• Možnost 1: K tomuto prostředku mají přístup všechny sítě, včetně internetu.
• Možnost 2: Vybrané sítě, nakonfigurujte zabezpečení sítě pro prostředek služeb Azure AI.
• Možnost 3: Zakázáno, k tomuto prostředku nemají přístup žádné sítě. Můžete nakonfigurovat připojení privátního koncového bodu, která budou výhradním způsobem přístupu k tomuto prostředku.

V závislosti na vybrané možnosti možná budete muset zadat další informace.

Možnost 1: Povolit všechny sítě

První možnost umožňuje přístup k vašemu prostředku všem sítím, včetně internetu. Tato možnost je výchozím nastavením. Pro tuto možnost nejsou vyžadována žádná další nastavení.

Možnost 2: Povolit pouze konkrétní sítě

Druhá možnost umožňuje identifikovat konkrétní sítě, které mají přístup k vašemu prostředku. Když vyberete tuto možnost, stránka se aktualizuje tak, aby obsahovala následující povinná pole:

Část Brána firewall obsahuje volitelné pole rozsahu adres, které můžete použít ke konfiguraci nastavení brány firewall pro prostředek.

Možnost 3: Zakázání síťového přístupu

Třetí možnost umožňuje zakázat síťový přístup k vašemu prostředku. Když vyberete tuto možnost, stránka se aktualizuje tak, aby zahrnovala tabulku privátních koncových bodů .

Jako možnost můžete přidat privátní koncový bod pro přístup k vašemu prostředku. Vyberte Přidat privátní koncový bod a dokončete konfiguraci koncového bodu.

Potvrďte konfiguraci a vytvořte prostředek.

1. Podle potřeby vyberte Další a nakonfigurujte všechny značky pro váš prostředek.

2. Výběrem možnosti Další přejdete do poslední fáze procesu: Zkontrolovat a odeslat.

3. Potvrďte nastavení konfigurace a vyberte Vytvořit.

4. Na webu Azure Portal se zobrazí oznámení o dostupnosti nového prostředku. Vyberte Přejít k prostředku.

   

Nasazení modelu

Než budete moct vygenerovat text nebo odvozování, musíte nasadit model. V nástroji Azure OpenAI Studio si můžete vybrat jeden z několika dostupných modelů.

Pokud chcete nasadit model, postupujte takto:

1. Přihlaste se k Azure OpenAI Studiu.

2. Zvolte předplatné a prostředek Azure OpenAI, se kterým chcete pracovat, a vyberte Použít prostředek.

3. V části Správa vyberte Nasazení.

4. Vyberte Vytvořit nové nasazení a nakonfigurujte následující pole:

   Pole	Popis
   Výběr modelu	Dostupnost modelů se liší podle oblasti. Seznam dostupných modelů pro každou oblast najdete v tabulce souhrnu modelů a dostupnosti oblastí.
   Název nasazení	Pečlivě zvolte jméno. Název nasazení se v kódu používá k volání modelu pomocí klientských knihoven a rozhraní REST API.
   Typ nasazení	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Přečtěte si další informace o možnostech typu nasazení.
   Upřesnit možnosti (volitelné)	Podle potřeby můžete pro prostředek nastavit volitelná upřesňující nastavení. – Pro filtr obsahu přiřaďte k nasazení filtr obsahu. – Pro tokeny za minutu limit rychlosti upravte tokeny za minutu (TPM) a nastavte efektivní limit rychlosti pro vaše nasazení. Tuto hodnotu můžete kdykoli změnit pomocí nabídky Kvóty. Dynamická kvóta umožňuje využít větší kvótu, pokud je k dispozici dodatečná kapacita.

5. V rozevíracím seznamu vyberte model.

6. Zadejte název nasazení pro identifikaci modelu.

   Důležité

   Když k modelu přistupujete přes rozhraní API, musíte místo názvu základního modelu ve voláních rozhraní API odkazovat na název nasazení, což je jeden z klíčových rozdílů mezi OpenAI a Azure OpenAI. OpenAI vyžaduje pouze název modelu. Azure OpenAI vždy vyžaduje název nasazení, i když používáte parametr modelu. V naší dokumentaci často máme příklady, kdy jsou názvy nasazení reprezentovány jako identické s názvy modelů, což pomáhá určit, který model funguje s konkrétním koncovým bodem rozhraní API. V konečném důsledku můžou názvy nasazení dodržovat jakoukoli konvenci pojmenování, která je pro váš případ použití nejvhodnější.

7. U prvního nasazení ponechte rozšířené možnosti nastavené na výchozí hodnoty.

8. Vyberte Vytvořit.

Tabulka nasazení zobrazuje novou položku, která odpovídá nově vytvořenému modelu.

Po dokončení nasazení se stav nasazení modelu změní na úspěšný.

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů
• Rozhraní příkazového řádku Azure. Další informace najdete v tématu Postup instalace Azure CLI.

Přihlášení k Azure CLI

Přihlaste se k Azure CLI nebo v následujících krocích vyberte Open CloudShell .

Vytvoření skupiny prostředků Azure

K vytvoření prostředku Azure OpenAI potřebujete skupinu prostředků Azure. Když vytvoříte nový prostředek prostřednictvím Azure CLI, můžete také vytvořit novou skupinu prostředků nebo dát Azure pokyn, aby používala existující skupinu. Následující příklad ukazuje, jak vytvořit novou skupinu prostředků s názvem OAIResourceGroup pomocí příkazu az group create . Skupina prostředků se vytvoří v umístění USA – východ.

az group create \
--name OAIResourceGroup \
--location eastus

Vytvoření prostředku

Pomocí příkazu az cognitiveservices account create vytvořte prostředek Azure OpenAI ve skupině prostředků. V následujícím příkladu vytvoříte prostředek s názvem MyOpenAIResource ve skupině prostředků OAIResourceGroup . Když tento příklad vyzkoušíte, aktualizujte kód tak, aby používal požadované hodnoty pro skupinu prostředků a název prostředku spolu s ID <předplatného> Azure.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Načtení informací o prostředku

Po vytvoření prostředku můžete pomocí různých příkazů najít užitečné informace o vaší instanci služby Azure OpenAI. Následující příklady ukazují, jak načíst základní adresu URL koncového bodu rozhraní REST API a přístupové klíče pro nový prostředek.

Získání adresy URL koncového bodu

Pomocí příkazu az cognitiveservices account show načtěte základní adresu URL koncového bodu rozhraní REST API pro prostředek. V tomto příkladu nasměrujeme výstup příkazu prostřednictvím procesoru jq JSON a vyhledáme hodnotu .properties.endpoint .

Při pokusu příkladu aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků myResourceGroupName> a prostředek< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Získání primárního klíče rozhraní API

Pokud chcete načíst přístupové klíče pro prostředek, použijte příkaz az cognitiveservices account keys list . V tomto příkladu nasměrujeme výstup příkazu prostřednictvím procesoru jq JSON a vyhledáme hodnotu .key1 .

Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků a prostředek.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Nasazení modelu

K nasazení modelu použijte příkaz az cognitiveservices account deployment create . V následujícím příkladu nasadíte instanci text-embedding-ada-002 modelu a dáte jí název MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků a prostředek. Nemusíte měnit model-versionmodel-format hodnoty ani , ani sku-capacitysku-name hodnoty.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name přijímá následující typy nasazení: Standard, GlobalBatch, GlobalStandarda ProvisionedManaged. Přečtěte si další informace o možnostech typu nasazení.

Odstranění modelu z prostředku

Pomocí příkazu az cognitiveservices account deployment delete můžete odstranit libovolný model nasazený z vašeho prostředku. V následujícím příkladu odstraníte model s názvem MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků, prostředek a nasazený model.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Odstranění prostředku

Pokud chcete prostředek Azure OpenAI po těchto cvičeních vyčistit, můžete prostředek Azure OpenAI odebrat odstraněním prostředku prostřednictvím Azure CLI. Můžete také odstranit skupinu prostředků. Pokud se rozhodnete odstranit skupinu prostředků, odstraní se také všechny prostředky obsažené ve skupině.

Pokud chcete odebrat skupinu prostředků a její přidružené prostředky, použijte příkaz az cognitiveservices account delete .

Pokud nebudete dál používat prostředky vytvořené v těchto cvičeních, odstraňte skupinu prostředků spuštěním následujícího příkazu. Nezapomeňte aktualizovat ukázkový kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Požadavky

• Předplatné Azure. Vytvořte si ho zdarma.
• Azure PowerShell: Další informace najdete v tématu Postup instalace Azure PowerShellu.
• Přístupová oprávnění k vytváření prostředků Azure OpenAI a nasazení modelů

Přihlášení k Azure PowerShellu

Přihlaste se k Azure PowerShellu nebo v následujících krocích vyberte Otevřít CloudShell .

Vytvoření skupiny prostředků Azure

K vytvoření prostředku Azure OpenAI potřebujete skupinu prostředků Azure. Když vytvoříte nový prostředek prostřednictvím Azure PowerShellu, můžete také vytvořit novou skupinu prostředků nebo dát Azure pokyn, aby používala existující skupinu. Následující příklad ukazuje, jak vytvořit novou skupinu prostředků s názvem OAIResourceGroup pomocí příkazu New-AzResourceGroup . Skupina prostředků se vytvoří v umístění USA – východ.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Vytvoření prostředku

Pomocí příkazu New-AzCognitiveServicesAccount vytvořte prostředek Azure OpenAI ve skupině prostředků. V následujícím příkladu vytvoříte prostředek s názvem MyOpenAIResource ve skupině prostředků OAIResourceGroup . Když tento příklad vyzkoušíte, aktualizujte kód tak, aby používal požadované hodnoty pro skupinu prostředků a název prostředku spolu s ID <předplatného> Azure.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Načtení informací o prostředku

Po vytvoření prostředku můžete pomocí různých příkazů najít užitečné informace o vaší instanci služby Azure OpenAI. Následující příklady ukazují, jak načíst základní adresu URL koncového bodu rozhraní REST API a přístupové klíče pro nový prostředek.

Získání adresy URL koncového bodu

Pomocí příkazu Get-AzCognitiveServicesAccount načtěte základní adresu URL koncového bodu rozhraní REST API pro prostředek. V tomto příkladu nasměrujeme výstup příkazu pomocí rutiny Select-Object k vyhledání endpoint hodnoty.

Při pokusu o příklad aktualizujte kód tak, aby používal hodnoty pro skupinu <myResourceGroupName> prostředků a prostředek <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Získání primárního klíče rozhraní API

K načtení přístupových klíčů pro prostředek použijte příkaz Get-AzCognitiveServicesAccountKey . V tomto příkladu nasměrujeme výstup příkazu pomocí rutiny Select-Object k vyhledání Key1 hodnoty.

Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků a prostředek.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Nasazení modelu

K nasazení modelu použijte příkaz New-AzCognitiveServicesAccountDeployment . V následujícím příkladu nasadíte instanci text-embedding-ada-002 modelu a dáte jí název MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků a prostředek. Nemusíte měnit model-versionmodel-format hodnoty ani , ani sku-capacitysku-name hodnoty.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Vlastnost Name $sku proměnné přijímá následující typy nasazení: Standard, GlobalBatch, GlobalStandarda ProvisionedManaged. Přečtěte si další informace o možnostech typu nasazení.

Odstranění modelu z prostředku

Pomocí příkazu Remove-AzCognitiveServicesAccountDeployment můžete z prostředku odstranit libovolný model nasazený. V následujícím příkladu odstraníte model s názvem MyModel. Když si tento příklad vyzkoušíte, aktualizujte kód tak, aby používal hodnoty pro skupinu prostředků, prostředek a nasazený model.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Odstranění prostředku

Pokud chcete prostředek Azure OpenAI po těchto cvičeních vyčistit, můžete prostředek Azure OpenAI odebrat odstraněním prostředku prostřednictvím Azure PowerShellu. Můžete také odstranit skupinu prostředků. Pokud se rozhodnete odstranit skupinu prostředků, odstraní se také všechny prostředky obsažené ve skupině.

Pokud chcete odebrat skupinu prostředků a její přidružené prostředky, použijte příkaz Remove-AzCognitiveServicesAccount .

Pokud nebudete dál používat prostředky vytvořené v těchto cvičeních, odstraňte skupinu prostředků spuštěním následujícího příkazu. Nezapomeňte aktualizovat ukázkový kód tak, aby používal vaše hodnoty pro skupinu prostředků a prostředek.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup