チュートリアル: 接続文字列を使用して AKS の Azure OpenAI Service に接続する (プレビュー)

このチュートリアルでは、接続文字列を使用して Azure OpenAI Service と通信する、Azure Kubernetes (AKS) クラスター内にポッドを作成する方法を学習します。 次のタスクを実行します。

前提条件

• アクティブなサブスクリプションが含まれる Azure アカウント。 無料でアカウントを作成できます。

• • Azure Cloud Shell で Bash 環境を使用します。 詳細については、「Azure Cloud Shell の Bash のクイックスタート」を参照してください。

    

  • CLI リファレンス コマンドをローカルで実行する場合、Azure CLI をインストールします。 Windows または macOS で実行している場合は、Docker コンテナーで Azure CLI を実行することを検討してください。 詳細については、「Docker コンテナーで Azure CLI を実行する方法」を参照してください。

    • ローカル インストールを使用する場合は、az login コマンドを使用して Azure CLI にサインインします。 認証プロセスを完了するには、ターミナルに表示される手順に従います。 その他のサインイン オプションについては、Azure CLI でのサインインに関するページを参照してください。

    • 初回使用時にインストールを求められたら、Azure CLI 拡張機能をインストールします。 拡張機能の詳細については、Azure CLI で拡張機能を使用する方法に関するページを参照してください。

    • az version を実行し、インストールされているバージョンおよび依存ライブラリを検索します。 最新バージョンにアップグレードするには、az upgrade を実行します。

• コンテナー イメージと Kubernetes リソースを管理するための Docker と kubectl。
• コンテナーと AKS の基本的な理解。 AKS 用のアプリケーションの準備から開始します。
• Azure OpenAI Service リソースを作成し、モデルをデプロイするためのアクセス許可。

Azure リソースを作成する

1. このチュートリアル用のリソース グループを作成します。

   az group create \
       --name MyResourceGroup \
       --location eastus
   

2. 次のコマンドを使用するか、AKS クイック スタートを参照して、AKS クラスターを作成します。 このクラスターでは、サービス接続とポッド定義を作成し、サンプル アプリケーションをデプロイします。

   az aks create \
       --resource-group MyResourceGroup \
       --name MyAKSCluster \
       --enable-managed-identity \
       --node-count 1 \
      --generate-ssh-keys
   

3. az aks get-credentials コマンド 使用してクラスターに接続します。

   az aks get-credentials \
       --resource-group MyResourceGroup \
       --name MyAKSCluster
   

4. az cognitiveservices account create コマンドを使用して、Azure OpenAI Service リソースを作成します。 必要に応じて、詳細な手順についてはこのチュートリアルを参照してください。 Azure OpenAI Service は、AKS クラスターに接続するターゲット サービスです。

   az cognitiveservices account create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService \
       --location eastus \
       --kind OpenAI \
       --sku s0 \
       --custom-domain myopenaiservice \
       --subscription <SubscriptionID>
   

5. az cognitiveservices deployment create コマンドを使用してモデルをデプロイします。 このモデルは、接続をテストするためにサンプル アプリケーションで使用されます。

   az cognitiveservices account deployment create \
       --resource-group MyResourceGroup \
       --name MyOpenAIService
       --deployment-name MyModel \
       --model-name gpt-4 \
       --model-version 0613 \
       --model-format OpenAI \
       --sku-name "Standard"
       --capacity 1
   

6. az acr create コマンドを使用して Azure Container Registry (ACR) リソースを作成するか、このチュートリアルを参照してください。 レジストリは、AKS ポッド定義が使用するサンプル アプリケーションのコンテナー イメージをホストします。

   az acr create \
       --resource-group MyResourceGroup \
       --name myregistry \
       --sku Standard
   

7. az acr update コマンド 使用して匿名プルを有効にして、AKS クラスターがレジストリ内のイメージを使用できるようにします。

   az acr update \
       --resource-group MyResourceGroup \
       --name myregistry \
       --anonymous-pull-enabled
   

Service Connector を使用して AKS でサービス接続を作成する (プレビュー)

Azure portal または Azure CLI で、AKS クラスターと Azure OpenAI Service の間にサービス接続を作成します。

az aks connection create cognitiveservices --secret

サンプル アプリケーションを複製する

1. サンプル リポジトリをクローンします。

   git clone https://github.com/Azure-Samples/serviceconnector-aks-samples.git
   

2. Azure OpenAI のリポジトリのサンプル フォルダーに移動します。

   cd serviceconnector-aks-samples/azure-openai-connection-string
   

3. app.py ファイルの <MyModel> プレースホルダーを、デプロイしたモデル名に置き換えます。

コンテナー イメージをビルドしてプッシュする

1. Azure CLI の az acr build コマンドを使用して、イメージをビルドしてコンテナー レジストリにプッシュします。

   az acr build --registry <MyRegistry> --image sc-demo-openai-connstr:latest ./
   

2. az acr repository list コマンドを使用して、コンテナー レジストリ内のイメージを表示します。

   az acr repository list --name <MyRegistry> --output table
   

アプリケーションを実行し接続をテストする

1. プレースホルダーを azure-openai-connection-string フォルダー内の pod.yaml ファイルで置き換えます。

   • <YourContainerImage> を前にビルドしたイメージの名前に置き換えます。 (例: <MyRegistry>.azurecr.io/sc-demo-openai-connstr:latest)。
   • <SecretCreatedByServiceConnector> をサービス コネクタによって作成されたシークレットに置き換えます。 シークレット名は、Azure portal の [サービス コネクタ] ペインで確認できます。

2. kubectl apply コマンドを使用してポッドをクラスターに配置します。 kubectl がインストールされていない場合は、az aks install-cli コマンドを使用して、ローカルにインストールします。 コマンドでは、AKS クラスターの既定の名前空間に sc-demo-openai-connstr という名前のポッドが作成されます。

   kubectl apply -f pod.yaml
   

3. kubectl でポッドを表示して、デプロイが成功したかどうかを確認します。

   kubectl get pod/sc-demo-openai-connstr
   

4. kubectl でログを表示して、接続が機能していることを確認します。

   kubectl logs pod/sc-demo-openai-connstr
   

リソースをクリーンアップする

これらのリソースが不要になった場合は、リソース グループを削除して、このチュートリアルで作成した Azure リソースをクリーンアップします。

az group delete \
    --resource-group MyResourceGroup

次のステップ

サービス コネクタの概念と、それを使って AKS を Azure サービスに接続する方法について詳しくは、次の記事をご覧ください。