Jak nasadit modely Azure OpenAI pomocí aplikace Azure AI Studio

  • Článek

Důležité

Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

V tomto článku se naučíte vytvářet nasazení modelů Azure OpenAI v Azure AI Studiu.

Služba Azure OpenAI nabízí různorodou sadu modelů s různými možnostmi a cenovými body. Když nasadíte modely Azure OpenAI v Azure AI Studiu, můžete nasazení využívat pomocí toku výzvy nebo jiného nástroje. Dostupnost modelů se liší podle oblasti. Další informace o podrobnostech jednotlivých modelů najdete v části Modely služby Azure OpenAI Service.

Pokud chcete upravit model Azure OpenAI a pracovat s ním v dětském prostředí Azure AI Studio , musíte nejprve do projektu nasadit základní model Azure OpenAI. Jakmile je model nasazený a dostupný ve vašem projektu, můžete využívat jeho koncový bod rozhraní REST API tak, jak je, nebo ho dále přizpůsobit pomocí vlastních dat a dalších komponent (vkládání, indexů a dalších).

Nasazení modelu Azure OpenAI z katalogu modelů

Pomocí následujícího postupu nasaďte model Azure OpenAI, například gpt-4 do koncového bodu v reálném čase z katalogu modelů AI Studio:

  1. Přihlaste se k AI Studiu a přejděte na domovskou stránku.

  2. Na levém bočním panelu vyberte Katalog modelů.

  3. Ve filtru Kolekce vyberte Azure OpenAI.

    Snímek obrazovky znázorňující, jak filtrovat podle modelů Azure OpenAI v katalogu

  4. Vyberte model, například gpt-4 z kolekce Azure OpenAI.

  5. Výběrem možnosti Nasadit otevřete okno nasazení.

  6. Vyberte centrum, do kterého chcete model nasadit. Pokud centrum nemáte, můžete si ho vytvořit.

  7. Zadejte název nasazení a upravte další výchozí nastavení v závislosti na vašich požadavcích.

  8. Vyberte Nasadit.

  9. Dostanete se na stránku s podrobnostmi o nasazení. Vyberte Otevřít v dětském hřišti.

  10. Výběrem možnosti Zobrazit kód získáte ukázky kódu, které můžete použít k využívání nasazeného modelu ve vaší aplikaci.

Nasazení modelu Azure OpenAI z projektu

Případně můžete zahájit nasazení spuštěním projektu v AI Studiu.

  1. Přejděte do projektu v AI Studiu.
  2. Vyberte nasazení součástí>.
  3. Vyberte + Nasadit model.
  4. Ve filtru Kolekce vyberte Azure OpenAI.
  5. Vyberte model, například gpt-4 z kolekce Azure OpenAI.
  6. Výběrem možnosti Potvrdit otevřete okno nasazení.
  7. Zadejte název nasazení a upravte další výchozí nastavení v závislosti na vašich požadavcích.
  8. Vyberte Nasadit.
  9. Dostanete se na stránku s podrobnostmi o nasazení. Vyberte Otevřít v dětském hřišti.
  10. Výběrem možnosti Zobrazit kód získáte ukázky kódu, které můžete použít k využívání nasazeného modelu ve vaší aplikaci.

Odvozování modelu Azure OpenAI

K odvozování nasazeného modelu můžete použít dětské hřiště nebo ukázky kódu. Dětské hřiště je webové rozhraní, které umožňuje pracovat s modelem v reálném čase. Pomocí dětského hřiště můžete model otestovat s různými výzvami a zobrazit odpovědi modelu.

Další příklady využití nasazeného modelu ve vaší aplikaci najdete v následujících rychlých startech Azure OpenAI:

Regionální dostupnost a omezení kvót modelu

U modelů Azure OpenAI se výchozí kvóta pro modely liší podle modelu a oblasti. Některé modely mohou být dostupné pouze v některých regionech. Další informace o limitech dostupnosti a kvót najdete v tématu Kvóty a limity služby Azure OpenAI.

Kvóta pro nasazení a odvozování modelu

V případě modelů Azure OpenAI nasazení a odvozování spotřebovává kvótu přiřazenou k vašemu předplatnému v jednotkách tokenů za minutu (TPM). Když si zaregistrujete Azure AI Studio, dostanete výchozí kvótu pro většinu dostupných modelů. Potom přiřaďte čip TPM každému nasazení při jeho vytvoření, čímž snížíte dostupnou kvótu pro daný model o přiřazenou částku. Můžete pokračovat v vytváření nasazení a přiřazování čipů TPM, dokud nedosáhnete limitu kvóty.

Jakmile dosáhnete limitu kvóty, jediným způsobem, jak vytvořit nová nasazení tohoto modelu, je:

  • Požádejte o další kvótu odesláním formuláře pro navýšení kvóty.
  • Upravte přidělenou kvótu pro jiná nasazení modelu, aby se uvolnily tokeny pro nová nasazení na portálu Azure OpenAI.

Další informace o kvótě najdete v tématu Kvóta služby Azure AI Studio a Správa kvóty služby Azure OpenAI.

Související obsah