ドキュメント インテリジェンスのカスタム分類モデル

Azure AI Document Intelligence は、クラウドベースの Azure AI サービスで、インテリジェントなドキュメント処理ソリューションの構築を可能とします。 Document Intelligence API は、画像、PDF、その他のドキュメント ファイルを分析して、さまざまなコンテンツ、レイアウト、スタイル、セマンティック要素を抽出および検出します。

カスタム分類モデルは、レイアウト機能と言語機能を組み合わせて、アプリケーション内で処理するドキュメントを正確に検出して識別するディープ ラーニング モデル型です。 カスタム分類モデルは、入力ファイル内の各ページを分類してその中のドキュメントを識別し、入力ファイル内の複数のドキュメントまたは 1 つのドキュメントの複数のインスタンスを識別することもできます。

モデル機能

カスタム分類モデルでは、単一ファイルまたは複数ファイルのドキュメントを分析して、トレーニング済みのドキュメントの種類のいずれかが入力ファイル内に含まれているかどうかを識別できます。 現在サポートされているシナリオを次に示します。

• 融資申込みフォームなどの、1 つのドキュメントの種類を含む 1 つのファイル。

• 複数のドキュメントの種類を含む 1 つのファイル。 たとえば、融資申込みフォーム、給与明細、口座取引明細書を含む融資申込みパッケージ。

• 同じドキュメントの複数のインスタンスを含む 1 つのファイル。 たとえば、スキャンされた請求書のコレクションです。

✔️ カスタム分類子をトレーニングするには、少なくとも two 個別のクラスと、クラスごとに最小限の fiveのドキュメント サンプルが必要です。 モデル応答には、識別されたドキュメントの各クラスのページ範囲が含まれます。

✔️ 許容されるクラスの最大数は 500です。 クラスあたりのドキュメント サンプルの最大数は 100です。

特に指定がない限り、モデルは、入力ドキュメントの各ページを、ラベル付きデータセット内のいずれかのクラスに分類します。 入力ドキュメントで分析するページ番号を指定することもできます。 アプリケーションのしきい値を設定するには、応答の信頼度スコアを使用します。

増分トレーニング

カスタム モデルでは、分類子を既存のクラスの新しいサンプルで更新したり、新しいクラスを追加したりするには、トレーニング データセットへのアクセスを維持する必要があります。 分類子モデルでは、既存の分類子を参照して既存のクラスに新しいサンプルを追加したり、サンプルを含む新しいクラスを追加したりできる増分トレーニングがサポートされるようになりました。 増分トレーニングを使用すると、データ保持が困難かつ変化するビジネス ニーズに合わせて分類子を更新する必要があるシナリオへの対応が可能になります。 増分トレーニングは、API バージョン 2024-02-29-preview 以降でトレーニングされたモデルでサポートされます。

増分トレーニングでは、元のモデル ID を baseClassifierId として指定する必要があります。 増分トレーニングの使用方法の詳細については、「増分トレーニング」を参照してください。

Office ドキュメントの種類のサポート

PDF、画像、Word、PowerPoint、Excel などのさまざまな形式のドキュメントの種類を認識するように分類子をトレーニングできるようになりました。 トレーニング データセットを組み立てるときに、サポートされている任意の種類のドキュメントを追加できます。 分類子では、特定の型に明示的にラベルを付ける必要はありません。 ベスト プラクティスとして、モデルの全体的な精度を向上させるために、トレーニング データセットに各形式のサンプルが少なくとも 1 つ含まれるようにします。

カスタム分類モデルと作成済みモデルを比較する

カスタム分類モデルは、一部のシナリオで作成済みモデルに取って代わることができますが、注意すべき違いがいくつかあります。

言語のサポート

入力の要件

サポートされているファイル形式:

• 最適な結果を得るには、ドキュメントの種類ごとに 5 つの鮮明な写真または高品質のスキャンを提供してください。

• PDF および TIFF の場合、最大 2,000 ページを処理できます (Free レベルのサブスクリプションでは、最初の 2 ページのみが処理されます)。

• ドキュメントを分析するためのファイル サイズは、有料 (S0) レベルでは 500 MB、無料 (F0) レベルでは 4 MB です。

• 画像のディメンションは、50 x 50 ピクセルから 10,000 x 10,000 ピクセルの間である必要があります。

• PDF がパスワードでロックされている場合は、送信前にロックを解除する必要があります。

• 抽出するテキストの最小の高さは、1024 x 768 ピクセルのイメージの場合は 12 ピクセルです。 このディメンションは、1 インチあたり 150 ドット (DPI) で約 8 ポイントのテキストに相当します。

• カスタム モデル トレーニングにおけるトレーニング データの最大ページ数は、カスタム テンプレート モデルの場合は 500、カスタム ニューラル モデルの場合は 50,000 です。

• カスタム抽出モデル トレーニングにおけるトレーニング データの合計サイズは、テンプレート モデルの場合は 50 MB、ニューラル モデルの場合は 1GB です。

• カスタム分類モデル トレーニングの場合、トレーニング データの合計サイズは 1 GB で、最大 10,000 ページです。

サブドキュメントの分割

ファイルに複数のドキュメントがある場合、分類子は入力ファイルに含まれるさまざまなドキュメントの種類を識別できます。 分類子の応答には、ファイル内に含まれる識別されたドキュメントの種類ごとにページ範囲が含まれます。 この応答には、同じドキュメントの種類のインスタンスを複数含めることができます。

ベスト プラクティス

カスタム分類モデルでは、トレーニングするためにクラスごとに最低 5 つのサンプルが必要です。 クラスが似ている場合は、追加のトレーニング サンプルを追加すると、モデルの精度が向上します。

分類子は、各ドキュメントをいずれかのクラスに割り当てようとします。トレーニング データセットの一部であるクラスに含まれていないドキュメントの種類がモデルに表示される場合は、分類スコアのしきい値を設定するか、ドキュメントの種類のいくつかの代表的なサンプルを "other" クラスに追加することを計画する必要があります。 "other" クラスを追加すると、不要なドキュメントが分類子の品質に影響を与えなくなります。

Training a model

カスタム分類モデルは、v4.0: 2024-02-29-preview、2024-07-31-preview および v3.1: 2023-07-31 (GA) API でサポートされています。 Document Intelligence Studio には、カスタム分類子を対話形式でトレーニングするためのコードなしのユーザー インターフェイスが用意されています。 開始するには、攻略ガイドに従ってください。

REST API を使用する場合、ドキュメントをフォルダー別に整理する場合は、要求の azureBlobSource プロパティを使用して分類モデルをトレーニングできます。

https://{endpoint}/documentintelligence/documentClassifiers:build?api-version=2024-02-29-preview

{
  "classifierId": "demo2.1",
  "description": "",
  "docTypes": {
    "car-maint": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/car-maint/"
            }
    },
    "cc-auth": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/cc-auth/"
            }
    },
    "deed-of-trust": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "sample1/deed-of-trust/"
            }
    }
  }
}

https://{endpoint}/formrecognizer/documentClassifiers:build?api-version=2023-07-31

{
  "classifierId": "demo2.1",
  "description": "",
  "docTypes": {
    "car-maint": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/car-maint/"
            }
    },
    "cc-auth": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/cc-auth/"
            }
    },
    "deed-of-trust": {
        "azureBlobSource": {
            "containerUrl": "SAS URL to container",
            "prefix": "{path to dataset root}/deed-of-trust/"
            }
    }
  }
}

または、ファイルのフラット リストがある場合、または各フォルダー内で選択したファイルをいくつか使用してモデルをトレーニングするだけの場合は、azureBlobFileListSource プロパティを使用してモデルをトレーニングできます。 この手順では、JSON Lines 形式の file list が必要です。 クラスごとに、トレーニング用に送信するファイルの一覧を含む新しいファイルを追加します。

{
  "classifierId": "demo2",
  "description": "",
  "docTypes": {
    "car-maint": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/car-maint.jsonl"
      }
    },
    "cc-auth": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/cc-auth.jsonl"
      }
    },
    "deed-of-trust": {
      "azureBlobFileListSource": {
        "containerUrl": "SAS URL to container",
        "fileList": "{path to dataset root}/deed-of-trust.jsonl"
      }
    }
  }
}

たとえば、ファイルの一覧 car-maint.jsonl には、次のファイルが含まれています。

{"file":"classifier/car-maint/Commercial Motor Vehicle - Adatum.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Fincher.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Lamna.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Liberty.pdf"}
{"file":"classifier/car-maint/Commercial Motor Vehicle - Trey.pdf"}

{
  "classifierId": "existingClassifierName",
  "allowOverwrite": true,  // Default=false
  ...
}

POST https://myendpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers:authorizeCopy?api-version=2024-07-31-preview
Ocp-Apim-Subscription-Key: {<your-key>}

{
  "classifierId": "targetClassifier",
  "description": "Target classifier description"
}

{
  "targetResourceId": "/subscriptions/targetSub/resourceGroups/targetRG/providers/Microsoft.CognitiveServices/accounts/targetService",
  "targetResourceRegion": "targetResourceRegion",
  "targetClassifierId": "targetClassifier",
  "targetClassifierLocation": "https://targetEndpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers/targetClassifier",
  "accessToken": "accessToken",
  "expirationDateTime": "timestamp"
}

POST {endpoint}/documentintelligence/documentClassifiers/{classifierId}:copyTo?api-version=2024-07-31-preview
Ocp-Apim-Subscription-Key: {<your-key>}

{
  "targetResourceId": "/subscriptions/targetSub/resourceGroups/targetRG/providers/Microsoft.CognitiveServices/accounts/targetService",
  "targetResourceRegion": "targetResourceRegion",
  "targetClassifierId": "targetClassifier",
  "targetClassifierLocation": "https://targetEndpoint.cognitiveservices.azure.com/documentintelligence/documentClassifiers/targetClassifier",
  "accessToken": "accessToken",
  "expirationDateTime": "timestamp"
}

モデルの応答

ドキュメント分類モデルを使用して入力ファイルを分析します。

https://{endpoint}/documentintelligence/documentClassifiers/{classifier}:analyze?api-version=2024-02-29-preview

https://{service-endpoint}/formrecognizer/documentClassifiers/{classifier}:analyze?api-version=2023-07-31

応答には、応答のドキュメント セクションに関連付けられたページ範囲を持つ識別されたドキュメントが含まれます。

{
  ...

    "documents": [
      {
        "docType": "formA",
        "boundingRegions": [
          { "pageNumber": 1, "polygon": [...] },
          { "pageNumber": 2, "polygon": [...] }
        ],
        "confidence": 0.97,
        "spans": []
      },
      {
        "docType": "formB",
        "boundingRegions": [
          { "pageNumber": 3, "polygon": [...] }
        ],
        "confidence": 0.97,
        "spans": []
      }, ...
    ]
  }

次のステップ

カスタム分類モデルの作成方法: