クイックスタート: Azure portal を使用してテキストと画像をベクトル化する

このクイックスタートは、Azure portal の [データのインポートとベクトル化] ウィザードを使って垂直統合を使い始めるのに役立ちます。 ウィザードでは、コンテンツをチャンクし、埋め込みモデルを呼び出して、インデックス作成中およびクエリ時にコンテンツをベクトル化します。

ウィザードに関する重要なポイント:

• サポートされているデータ ソースは、Azure Blob Storage、Azure Data Lake Storage (ADLS) Gen2、または OneLake のファイルとショートカットです。

• サポートされている埋め込みモデルは、Azure OpenAI、Azure AI Studio モデル カタログ、Azure AI Vision マルチモーダルでホストされます。

• インデックス スキーマは、チャンク データのベクトルおよび非ベクトル フィールドを提供します。

• フィールドを追加することはできますが、生成されたフィールドを削除または変更することはできません。

• ドキュメント解析モードでは、チャンク (チャンクごとに 1 つの検索ドキュメント) が作成されます。

• チャンクは構成できません。 有効な設定は次のとおりです。

  "textSplitMode": "pages",
  "maximumPageLength": 2000,
  "pageOverlapLength": 500,
  "maximumPagesToTake": 0, #unlimited
  "unit": "characters",
  

前提条件

• Azure サブスクリプション。 無料で作成できます。

• Azure AI と同じリージョンにある Azure AI 検索サービス。 Basic レベル以上をお勧めします。

• Azure Blob Storage、Azure Data Lake Storage (ADLS) Gen2 (階層型名前空間を使用するストレージ アカウント)、または OneLake レイクハウス。

  Azure Storage は標準パフォーマンス (汎用 v2) アカウントである必要があります。 アクセス層は、ホット、クール、コールドにすることができます。

• Azure AI 検索と同じリージョンの Azure AI プラットフォーム上の埋め込みモデル。 デプロイの手順については、この記事で説明します。

  プロバイダー	サポートされているモデル
  Azure OpenAI Service	text-embedding-ada-002、text-embedding-3-large、または text-embedding-3-small。
  Azure AI Studio モデル カタログ	Azure、Cohere、Facebook の埋め込みモデル。
  Azure AI サービスのマルチサービス アカウント	画像とテキストのベクトル化のための Azure AI Vision マルチモーダル。 Azure AI Vision マルチモーダルは一部のリージョンで使用できます。 更新された一覧については、こちらのドキュメントを確認してください。 このリソースを使用するには、アカウントが利用可能なリージョンにあり、Azure AI Search と同じリージョンにある必要があります。

Azure OpenAI Service を使用する場合は、関連付けられたカスタム サブドメインが必要です。 サービスが Azure portal を使用して作成された場合、このサブドメインはサービス セットアップの一部として自動的に生成されます。 Azure AI 検索統合で使用する前に、サービスにカスタム サブドメインが含まれていることを確認します。

AI Studio で作成された (埋め込みモデルにアクセスできる) Azure OpenAI Service リソースはサポートされていません。 Azure portal で作成された Azure OpenAI Service リソースのみが、Azure OpenAI 埋め込みスキル統合と互換性があります。

パブリック エンドポイントの要件

上記のすべてのリソースでは、ポータル ノードがそれらにアクセスできるように、パブリック アクセスが有効になっている必要があります。 そうでないと、ウィザードは失敗します。 ウィザードの実行後、セキュリティのために統合コンポーネントでファイアウォールとプライベート エンドポイントを有効にすることができます。 詳細については、インポート ウィザードでの安全な接続に関するページを参照してください。

プライベート エンドポイントが既に存在しており、それらを無効にすることができない場合、代替手段は仮想マシン上でスクリプトまたはプログラムからそれぞれのエンドツーエンド フローを実行することです。 仮想マシンはプライベート エンドポイントと同じ仮想ネットワーク上にある必要があります。 垂直統合用の Python コード サンプルを次に示します。 同じ GitHub リポジトリ上に、他のプログラミング言語のサンプルも存在します。

ロールベースのアクセス制御要件

他のリソースへの検索サービス接続には、ロールの割り当てを行うことをお勧めします。

1. Azure AI 検索で、ロールを有効にします。

2. マネージド ID を使用するように検索サービスを構成します。

3. データ ソース プラットフォームと埋め込みモデル プロバイダーで、検索サービスがデータとモデルにアクセスできるようにするロールの割り当てを作成します。 「サンプル データの準備」で、ロールを設定する手順を示します。

無料検索サービスでは、Azure AI 検索への接続での RBAC がサポートされていますが、Azure Storage または Azure AI Vision への送信接続でのマネージド ID はサポートされていません。 このレベルのサポートは、無料の検索サービスと他の Azure サービス間の接続でキーベースの認証を使用する必要があることを意味します。

セキュリティで保護された接続の場合:

• Basic レベル以上を使用する。
• マネージド ID を構成し、承認されたアクセスにロールを使用します。

領域の確認

無料サービスで始める場合は、3 つのインデックス、データ ソース、スキルセット、インデクサーに制限されます。 基本では 15 個に制限されます。 十分な空き領域があることを確認してから開始してください。 このクイックスタートでは、各オブジェクトを 1 つずつ作成します。

セマンティック ランカーを確認する

ウィザードがセマンティック ランク付けをサポートするのは、Basic レベル以上かつセマンティック ランカーが既に検索サービスで有効である場合だけです。 課金対象レベルを使用している場合は、セマンティック ランカーが有効かどうかを確認します。

サンプル データの準備

このセクションでは、このクイックスタートで機能するデータについて説明します。

埋め込みモデルを設定する

ウィザードでは、Azure OpenAI、Azure AI Vision、または Azure AI Studio のモデル カタログにデプロイされた埋め込みモデルを使用できます。

ウィザードを起動する

1. Azure アカウントを使用して Azure portal にサインインし、Azure AI Search サービスに移動します。

2. [概要] ページで、[データのインポートとベクトル化] を選択します。

   

データへの接続

次の手順では、検索インデックスに使用するデータ ソースに接続します。

テキストをベクター化する

この手順では、チャンクされたデータをベクトル化するための埋め込みモデルを指定します。

1. [テキストをベクター化する] ページで、埋め込みモデルのソースを選択します。

   • Azure OpenAI
   • Azure AI Studio モデル カタログ
   • Azure AI Search と同じリージョンにある既存の Azure AI Vision マルチモーダル リソース。 同じリージョンに Azure AI サービス マルチサービス アカウントがない場合、このオプションは使用できません。

2. Azure サブスクリプションを選択します。

3. リソースに応じて以下のように選択を行います。

   • Azure OpenAI の場合は、text-embedding-ada-002、text-embedding-3-large、または text-embedding-3-small の既存のデプロイを選択します。

   • AI Studio カタログの場合は、Azure、Cohere、Facebook 埋め込みモデルの既存のデプロイを選択します。

   • AI Vision マルチモーダル埋め込みの場合は、アカウントを選択します。

   詳細については、この記事の前の方の「埋め込みモデルの設定」を参照してください。

4. 検索サービスの認証に API キーを使用するか、マネージド ID を使用するかを指定します。

   • ID は、Azure AI マルチサービス アカウントの [Cognitive Services OpenAI ユーザー] ロールを持つ必要があります。

5. これらのリソースの使用による課金への影響を認めるチェックボックスを選択します。

6. [次へ] を選択します。

画像のベクトル化とエンリッチ

コンテンツに画像が含まれている場合は、次の 2 つの方法で AI を適用できます。

• カタログからサポートされている画像埋め込みモデルを使用するか、Azure AI Vision マルチモーダル埋め込み API を選んで画像をベクトル化します。

• 光学式文字認識 (OCR) を使用して、画像内のテキストを認識する。 このオプションは画像からテキストを読み取るための OCR スキルを呼び出します。

Azure AI Search と Azure AI リソースは、同じリージョンに存在する必要があります。

1. [画像のベクトル化] ページで、ウィザードで作成する必要がある接続の種類を指定します。 画像のベクトル化では、ウィザードは Azure AI Studio または Azure AI Vision 内の埋め込みモデルに接続できます。

2. サブスクリプションを指定します。

3. Azure AI Studio モデル カタログの場合は、プロジェクトとデプロイを指定します。 詳細については、この記事の前の方の「埋め込みモデルの設定」を参照してください。

4. 必要に応じて、バイナリ画像 (スキャンしたドキュメント ファイルなど) を使用したり、OCR を使用してテキストを認識したりできます。

5. これらのリソースの使用による課金への影響を認めるチェックボックスを選択します。

6. [次へ] を選択します。

セマンティック 優先度付けを追加する

[詳細設定] ページで、クエリ実行の終了時に結果を再ランク付けするためのセマンティック ランク付けをオプションで追加することができます。 再ランク付けによって、最も意味的な関連性が高いマッチが上位にきます。

新しいフィールドをマップする

[詳細設定] ページで、必要に応じて新しいフィールドを追加できます。 既定では、これらの属性を持つ次のフィールドがウィザードによって生成されます。

生成されたフィールドやその属性は変更できませんが、データ ソースにある場合は、新しいフィールドを追加できます。 たとえば、Azure Blob Storage にはメタデータ フィールドのコレクションが用意されています。

1. [新規追加] を選択します。

2. 使用可能なフィールドの一覧からソース フィールドを選択し、インデックスのフィールド名を指定し、既定のデータ型をそのまま使用するか、必要に応じてオーバーライドします。

   メタデータ フィールドは検索可能ですが、取得可能、フィルター可能、ファセット可能、または並べ替え可能ではありません。

3. スキーマを元のバージョンに復元する場合は、[リセット] を選択します。

インデックス作成をスケジュールする

[詳細設定] ページで、必要に応じてインデクサーの [実行スケジュール] を指定できます。

1. [詳細設定] ページが完了したら、[次へ] を選択します。

ウィザードを終了する

1. [構成の確認] ページで、ウィザードによって作成されるオブジェクトのプレフィックスを指定します。 共通のプレフィックスは、整理された状態を保つのに役立ちます。

2. ［作成］ を選択します

ウィザードによる構成が完了すると、以下のオブジェクトが作成されます。

• データ ソース接続

• ベクトル フィールド、ベクトライザー、ベクトル プロファイル、ベクトル アルゴリズムを含むインデックス。 ウィザードのワークフロー中に既定のインデックスを設計したり、変更したりすることはできません。 インデックスは 2024-05-01-preview REST API に適合しています。

• チャンク用のテキスト分割スキルとベクトル化用の埋め込みスキルを含むスキルセット。 埋め込みスキルは、Azure OpenAI 用の AzureOpenAIEmbeddingModel スキルか、Azure AI Studio モデル カタログ用の AML スキルのいずれかです。 スキルセットにはインデックス プロジェクションの構成もあり、データ ソースの 1 つのドキュメントから "子" インデックス内の対応するチャンクにデータをマップできます。

• フィールド マッピングおよび出力フィールド マッピングを備えたインデクサー (該当する場合)。

結果をチェックする

検索エクスプローラーは、テキスト文字列を入力として受け取った後、ベクトル クエリの実行のためにテキストをベクトル化します。

1. Azure portal で [検索管理]>[インデックス] に移動した後、作成したインデックスを選択します。

2. 必要に応じて [クエリ オプション] を選び、検索結果のベクトル値を非表示にします。 この手順により、検索結果が読みやすくなります。

   

3. [ビュー] メニューで [JSON ビュー] を選択することで、text ベクトル クエリ パラメーターにベクトル クエリ用のテキストを入力できます。

   

   ウィザードによって、vector フィールド上にベクトル クエリを発行し、5 個の最近傍を返す既定のクエリが提供されます。 ベクトル値を非表示にすることを選択した場合、既定のクエリには、検索結果から vector フィールドを除外する select ステートメントが含まれます。

   {
      "select": "chunk_id,parent_id,chunk,title",
      "vectorQueries": [
          {
             "kind": "text",
             "text": "*",
             "k": 5,
             "fields": "vector"
          }
       ]
   }
   

4. text 値に関しては、アスタリスク (*) を Which plan has the lowest deductible? などの健康保険プランに関連する質問に置き換えます。

5. [検索] を選んでクエリを実行します。

   

   5 つのマッチが表示されるはずです。 各ドキュメントは、元の PDF のチャンクです。 title フィールドは、チャンクがどの PDF からのものであるかを示します。

6. 特定のドキュメントからのチャンクをすべて表示するには、以下のように特定の PDF 用の title フィールドのフィルターを追加します。

   {
      "select": "chunk_id,parent_id,chunk,title",
      "filter": "title eq 'Benefit_Options.pdf'",
      "count": true,
      "vectorQueries": [
          {
             "kind": "text",
             "text": "*",
             "k": 5,
             "fields": "vector"
          }
       ]
   }
   
   

クリーンアップ

Azure AI Search は課金対象のリソースです。 今後これが必要ない場合は、課金を防ぐためにサブスクリプションからこれを削除してください。

次のステップ

このクイックスタートでは、垂直統合に必要なすべてのオブジェクトを作成する [データのインポートとベクトル化] ウィザードを紹介しました。 各手順について詳しく確認するには、垂直統合サンプルを試してください。