Kurz: Připojení ke službě Azure OpenAI v AKS pomocí připojovací řetězec (Preview)

V tomto kurzu se dozvíte, jak vytvořit pod v clusteru Azure Kubernetes (AKS), který komunikuje se službou Azure OpenAI Pomocí připojovací řetězec. Provedete následující úkoly:

Požadavky

• Účet Azure s aktivním předplatným. Vytvoření účtu zdarma

• • Použijte prostředí Bash v Azure Cloud Shellu. Další informace najdete v tématu Rychlý start pro Bash v Azure Cloud Shellu.

    

  • Pokud dáváte přednost místnímu spouštění referenčních příkazů rozhraní příkazového řádku, nainstalujte Azure CLI. Pokud používáte Windows nebo macOS, zvažte spuštění Azure CLI v kontejneru Docker. Další informace najdete v tématu Jak spustit Azure CLI v kontejneru Dockeru.

    • Pokud používáte místní instalaci, přihlaste se k Azure CLI pomocí příkazu az login. Pokud chcete dokončit proces ověřování, postupujte podle kroků zobrazených na terminálu. Další možnosti přihlášení najdete v tématu Přihlášení pomocí Azure CLI.

    • Po zobrazení výzvy nainstalujte rozšíření Azure CLI při prvním použití. Další informace o rozšířeních najdete v tématu Využití rozšíření v Azure CLI.

    • Spuštěním příkazu az version zjistěte verzi a závislé knihovny, které jsou nainstalované. Pokud chcete upgradovat na nejnovější verzi, spusťte az upgrade.

• Docker a kubectl ke správě imagí kontejnerů a prostředků Kubernetes
• Základní znalost kontejnerů a AKS Začněte přípravou aplikace pro AKS.
• Přístupová oprávnění k vytváření prostředků služby Azure OpenAI a nasazování modelů

Vytvoření zdrojů Azure

1. Vytvořte skupinu prostředků pro tento kurz.

   az group create \
       --name MyResourceGroup \
       --location eastus
   

2. Vytvořte cluster AKS pomocí následujícího příkazu nebo pomocí rychlého startu AKS. V tomto clusteru vytvoříme definici připojení služby a podu a nasadíme ukázkovou aplikaci.

   az aks create \
       --resource-group MyResourceGroup \
       --name MyAKSCluster \
       --enable-managed-identity \
       --node-count 1 \
      --generate-ssh-keys
   

3. Připojte se ke clusteru pomocí příkazu az aks get-credentials .

   az aks get-credentials \
       --resource-group MyResourceGroup \
       --name MyAKSCluster
   

4. Vytvořte prostředek služby Azure OpenAI pomocí příkazu az cognitiveservices account create . Další pokyny najdete v tomto kurzu. Služba Azure OpenAI je cílová služba, kterou se připojíme ke clusteru AKS.

   az cognitiveservices account create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService \
       --location eastus \
       --kind OpenAI \
       --sku s0 \
       --custom-domain myopenaiservice \
       --subscription <SubscriptionID>
   

5. Nasaďte model pomocí příkazu az cognitiveservices deployment create . Model se používá v ukázkové aplikaci k otestování připojení.

   az cognitiveservices account deployment create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService
       --deployment-name MyModel \
       --model-name gpt-4 \
       --model-version 0613 \
       --model-format OpenAI \
       --sku-name "Standard"
       --capacity 1
   

6. Pomocí příkazu az acr create vytvořte prostředek služby Azure Container Registry (ACR) nebo si prohlédnou tento kurz. Registr hostuje image kontejneru ukázkové aplikace, kterou definice podu AKS využívá.

   az acr create \
       --resource-group MyResourceGroup \
       --name myregistry \
       --sku Standard
   

7. Povolte anonymní vyžádání obsahu pomocí příkazu az acr update , aby cluster AKS mohl využívat image v registru.

   az acr update \
       --resource-group MyResourceGroup \
       --name myregistry \
       --anonymous-pull-enabled
   

Vytvoření připojení služby v AKS pomocí konektoru service (Preview)

Vytvořte připojení služby mezi clusterem AKS a službou Azure OpenAI na webu Azure Portal nebo v Azure CLI.

az aks connection create cognitiveservices --secret

Klonování ukázkové aplikace

1. Naklonujte ukázkové úložiště:

   git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.git
   

2. Přejděte do ukázkové složky úložiště pro Azure OpenAI:

   cd serviceconnector-aks-samples/azure-openai-connection-string
   

3. <MyModel> Zástupný symbol v app.py souboru nahraďte názvem modelu, který jsme nasadili.

Vytváření a nabízení imagí kontejneru

1. Sestavte a nasdílejte image do registru kontejneru pomocí příkazu Az acr build v Azure CLI.

   az acr build --registry <MyRegistry> --image sc-demo-openai-connstr:latest ./
   

2. Pomocí příkazu az acr repository list zobrazte image v registru kontejneru.

   az acr repository list --name <MyRegistry> --output table
   

Spuštění aplikace a testování připojení

1. Nahraďte zástupné symboly v pod.yaml souboru ve azure-openai-connection-string složce.

   • Nahraďte <YourContainerImage> názvem image, který jsme vytvořili dříve. Například: <MyRegistry>.azurecr.io/sc-demo-openai-connstr:latest.
   • Nahraďte <SecretCreatedByServiceConnector> tajným kódem vytvořeným konektorem služby. Název tajného kódu můžete zkontrolovat na webu Azure Portal v podokně Konektor služby.

2. Pomocí příkazu nasaďte pod do clusteru kubectl apply . Pokud není nainstalovaný, nainstalujte kubectl místně příkazem az aks install-cli. Příkaz vytvoří pod pojmenovaný sc-demo-openai-connstr ve výchozím oboru názvů vašeho clusteru AKS.

   kubectl apply -f pod.yaml
   

3. Zkontrolujte, jestli nasazení proběhlo úspěšně, a to zobrazením podu s kubectl.

   kubectl get pod/sc-demo-openai-connstr
   

4. Zkontrolujte, jestli připojení funguje, a to zobrazením protokolů pomocí kubectlnástroje .

   kubectl logs pod/sc-demo-openai-connstr
   

Vyčištění prostředků

Pokud už tyto prostředky nepotřebujete, vyčistěte prostředky Azure vytvořené v tomto kurzu odstraněním skupiny prostředků.

az group delete \
    --resource-group MyResourceGroup

Další kroky

Další informace o konceptech konektoru služeb a o tom, jak AKS pomáhá připojit se ke službám Azure, najdete v následujících článcích.