Краткое руководство. Обнаружение защищенных материалов для текста

  • Статья

Функция "Защищенный материал для текста" предоставляет комплексное решение для управления рисками, связанными с содержимым, созданным искусственным интеллектом (только на английском языке). Обнаруживая и предотвращая отображение защищенного материала, организации могут обеспечить соответствие законам интеллектуальной собственности, поддерживать оригинальность содержимого и защищать свою репутацию. Защищенный материал относится к содержимому, которое соответствует известному тексту из авторских прав источников, таким как текст песни, статьи, рецепты или другое выбранное веб-содержимое.

Основными целями функции обнаружения защищенных материалов для текста для содержимого, созданного СИ, являются:

  • Обнаружение и предотвращение отображения защищенного содержимого, созданного моделями ИИ.
  • Чтобы организации могли управлять рисками, связанными с содержимым, созданным ИИ.
  • Чтобы убедиться, что содержимое, созданное СИ, соответствует юридическим, этическим и правилам политики содержимого.

Дополнительные сведения о защищенном обнаружении материалов см. на странице концепции обнаружения защищенных материалов. Сведения о ограничениях ввода API см. в разделе "Требования к входным данным" в разделе "Обзор".

Необходимые компоненты

  • подписка Azure — создайте бесплатную учетную запись.
  • После получения подписки Azure создайте ресурс безопасности содержимого в портал Azure, чтобы получить ключ и конечную точку. Введите уникальное имя ресурса, выберите подписку и выберите группу ресурсов, поддерживаемый регион (см . доступность региона) и поддерживаемую ценовую категорию. Затем выберите Создать.
    • Развертывание ресурса занимает несколько минут. После завершения выберите ресурс. В области слева в разделе "Управление ресурсами" выберите "Ключ подписки" и "Конечная точка". Конечная точка и любой из ключей используются для вызова API.
  • Установленная программа cURL.

Анализ текста для обнаружения защищенных материалов

В следующем разделе описывается пример запроса с cURL. Вставьте приведенную ниже команду в текстовый редактор и внесите следующие изменения.

  1. Замените <endpoint> URL-адрес конечной точки, связанный с ресурсом.
  2. Замените <your_subscription_key> одним из ключей, которые входят в ваш ресурс.
  3. При необходимости замените "text" поле в тексте собственным текстом, который вы хотите проанализировать.

    Совет

    См . сведения о требованиях к входным данным для ограничений максимальной длины текста. Защищенное обнаружение материалов предназначено для выполнения в завершениях LLM, а не в запросах пользователей.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Следующие поля должны быть включены в URL-адрес:

Имя. Обязательное? Описание Тип
Версия API Обязательное поле Это проверяемая версия API. Текущая версия: api-version=2024-09-01. Пример: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 Строка

Параметры в тексте запроса определяются в этой таблице:

Имя. Обязательное? Описание Тип
text Обязательное поле Это необработанный текст для проверки. Другие символы, отличные от ascii, могут быть включены. Строка

См. следующий пример текста запроса:

{
  "text": "string"
}

Откройте окно командной строки и выполните команду cURL.

Интерпретация ответа API

Результаты обнаружения защищенных материалов отображаются в виде данных JSON в выходных данных консоли. Например:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Поля JSON в выходных данных определяются здесь:

Имя Описание Тип
protectedMaterialAnalysis Каждый выходной класс, прогнозируемый API. Строка
Обнаружены Обнаружен ли защищенный материал. Логический

Очистка ресурсов

Если вы хотите очистить и удалить подписку на службы искусственного интеллекта Azure, можно удалить ресурс или группу ресурсов. При удалении группы ресурсов также удаляются все связанные с ней ресурсы.

Связанный контент