Azure AI Content Safety の新機能

サービス内の新機能について説明します。 以下の項目には、リリース ノート、ビデオ、ブログの投稿、およびその他の種類の情報が含まれる可能性があります。 このページにブックマークを設定して、新機能、機能の強化、修正、ドキュメントの更新についての最新情報を入手してください。

2024 年 9 月

マルチモーダル分析 (プレビュー)

マルチモーダル API は、画像コンテンツとテキスト コンテンツの両方を含むマテリアルを分析して、有害なユーザー生成コンテンツや AI 生成コンテンツからアプリケーションとサービスの安全性を高めるのに役立ちます。 画像とそれに関連付けられているテキスト コンテンツを一緒に分析すると、コンテキストを維持しつつ、より包括的なコンテンツの理解を提供できます。 使用を開始するには、クイックスタートに従ってください。

コード用の保護されたマテリアルの検出 (プレビュー)

保護されたマテリアル コード API は、大規模言語モデルによって出力される可能性がある、(ソフトウェア ライブラリ、ソース コード、アルゴリズム、その他の独自のプログラミング コンテンツを含む既知の GitHub リポジトリからの) 保護済みコード コンテンツにフラグを設定します。 使用を開始するには、クイックスタートに従ってください。

根拠性修正 (プレビュー)

根拠性検出 API には、提供された根拠となるソースに基づいて、テキスト内で検出された根拠付けられていないテキストを自動的に修正する修正機能が組み込まれています。 修正機能が有効になっている場合、応答には、根拠となるソースに合わせて修正されたテキストを提示する corrected Text フィールドが含まれます。 使用を開始するには、クイックスタートに従ってください。

2024 年 8 月

新機能は GA です

プロンプト シールド API とグラウンデッドネス検出 API が一般提供 (GA) されるようになりました。 クイックスタートに従って試してみてください。

• プロンプト シールドのクイックスタート
• 根拠性検出のクイックスタート

2024 年 7 月

カスタム カテゴリ (標準) API のパブリック プレビュー

カスタム カテゴリ (標準) API を使用すると、独自のカスタム コンテンツ カテゴリを作成してトレーニングし、テキストの一致をスキャンできます。 詳細については、「カスタム カテゴリ」を参照してください。

2024 年 5 月

カスタム カテゴリ (急速) API のパブリック プレビュー

カスタム カテゴリ (急速) API を使用すると、新しい有害コンテンツ パターンをすばやく定義し、テキストと画像をスキャンして一致を確認できます。 詳細については、「カスタム カテゴリ」を参照してください。

2024 年 3 月

プロンプト シールドのパブリック プレビュー

以前はジェイルブレイク リスク検出と呼ばれていたこの更新された機能は、プロンプト攻撃を検出します。この攻撃では、ユーザーが意図的にシステムの脆弱性を悪用して、大規模言語モデルから未承認の動作を導き出します。 プロンプト シールドでは、ユーザー プロンプトによる直接的な攻撃と、入力されたドキュメントまたは画像に埋め込まれている間接的な攻撃の両方を分析します。 詳細については、「プロンプト シールド」を参照してください。

根拠性検出のパブリック プレビュー

根拠性検出 API では、大規模言語モデル (LLM) のテキスト応答が、ユーザーが提供するソース資料に基づいているかどうかを検出します。 根拠なしとは、ソース資料の内容に従って、事実に反する、または不正確な情報が LLM から生成されるインスタンスを表します。 詳細については、「根拠性検出」を参照してください。

2024 年 1 月

Content Safety SDK の一般提供

Azure AI Content Safety サービスは、次のクライアント ライブラリ SDK を通じて一般提供されるようになりました。

• C#: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
• Python: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
• Java: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ
• JavaScript: パッケージ | API リファレンス | サンプル | クイックスタート: テキスト、イメージ

2023 年 11 月

ジェイルブレイク リスク検出と保護されたマテリアルの検出 (プレビュー)

新しいジェイルブレイク リスク検出 API と保護されたマテリアルの検出 API により、生成 AI の使用時に生じる一部のリスクが軽減されます。

• 脱獄リスク検出では、大規模言語モデルに脱獄攻撃のリスクがないか、テキストがスキャンされます。 クイックスタート
• 保護済み素材検出では、既知のテキスト コンテンツ (曲の歌詞、記事、レシピ、一部の Web コンテンツなど) がないか、AI によって生成されたテキストがスキャンされます。 クイックスタート

ジェイルブレイク リスク検出と保護されたマテリアルの検出は、一部のリージョンでのみ使用できます。 利用可能なリージョンに関するページを参照してください。

2023 年 10 月

Azure AI Content Safety が一般提供 (GA) されました

Azure AI Content Safety サービスが、クラウド サービスの 1 つとして一般提供されました。

• このサービスは、他の多くの Azure リージョンで利用できます。 一覧については、「概要」を参照してください。
• Analyze API の戻り値の形式が変更されました。 最新の例については、「クイック スタート」を参照してください。
• いくつか他の API について、名前と戻り値の形式が変更されました。 すべての破壊的変更を記載した一覧については、「移行ガイド」を参照してください。 その他のガイドとクイック スタートに、GA バージョンが反映されました。

Azure AI Content Safety の Java SDK と JavaScript SDK

Azure AI Content Safety サービスが、Java SDK と JavaScript SDK で利用可能になりました。 これらの SDK はそれぞれ、Maven と npm で使用できます。 クイックスタートに従って始めてください。

2023 年 7 月

Azure AI Content Safety C# SDK

Azure AI Content Safety サービスが C# SDK を介して利用できるようになりました。 SDK は NuGet で入手できます。 クイックスタートに従って始めてください。

2023 年 5 月

Azure AI Content Safety パブリック プレビュー

Azure AI Content Safety は、不快なもの、危険なもの、またはその他の望ましくないものである可能性がある素材を検出します。 このサービスでは、問題のあるコンテンツを検出する最先端のテキストと画像のモデルが提供されます。 Azure AI Content Safety は、ユーザーや AI が生成した有害なコンテンツからアプリケーションとサービスを守るのに役立ちます。 クイックスタートに従って始めてください。

Azure AI サービスの更新プログラム

Azure AI サービスに対する Azure 更新プログラムのお知らせ