Обнаружение заземления

API обнаружения заземления определяет, создаются ли текстовые ответы больших языковых моделей (LLM) в исходных материалах, предоставляемых пользователями. Незапланированность относится к экземплярам, в которых LLM создают информацию, которая не является фактической или неточной из того, что было представлено в исходных материалах.

Ключевые термины

• Извлечение дополненного поколения (RAG): RAG — это метод расширения знаний LLM с другими данными. LLMs может подумать о широкомасштабных темах, но их знания ограничены общедоступными данными, которые были доступны в то время, когда они были обучены. Если вы хотите создать приложения ИИ, которые могут подумать о частных данных или данных, представленных после даты отсечения модели, необходимо предоставить модель с этой конкретной информацией. Процесс добавления соответствующих сведений и вставки его в запрос модели называется получением дополненного поколения (RAG). Дополнительные сведения см. в разделе "Получение дополненного поколения" (RAG).

• Заземленность и незапланированность в LLMs: это относится к степени, в которой выходные данные модели основаны на предоставленной информации или отражают надежные источники точно. Приземленный ответ тесно соответствует данной информации, избегая спекуляций или фабрики. В измерениях заземления исходная информация имеет решающее значение и служит источником заземления.

Функции обнаружения заземления

• Выбор домена. Пользователи могут выбрать установленный домен, чтобы обеспечить более специальное обнаружение, которое соответствует конкретным потребностям своего поля. В настоящее время доступны домены MEDICAL и GENERIC.
• Спецификация задачи. Эта функция позволяет выбрать выполняемую задачу, например QnA (вопросы и ответы) и суммирование с настраиваемыми параметрами в соответствии с типом задачи.
• Скорость и интерпретируемость: существует два режима, которые отключают скорость с интерпретацией результатов.
  • Режим неисключения: обеспечивает возможность быстрого обнаружения; легко внедрить в онлайн-приложения.
  • Режим причины: предлагает подробные пояснения для обнаруженных незапланированных сегментов; лучше понимать и меры по устранению рисков.

Случаи использования

Обнаружение приземления поддерживает текстовое обобщение и задачи QnA, чтобы гарантировать, что созданные сводки или ответы являются точными и надежными. Ниже приведены некоторые примеры каждого варианта использования.

Задачи суммирования:

• Медицинская сводка: В контексте статей медицинских новостей обнаружение заземления можно использовать для обеспечения того, чтобы сводка не содержала сфабрикованных или вводящих в заблуждение сведений, гарантируя, что читатели получают точную и надежную медицинскую информацию.
• Обобщение академических документов: когда модель создает сводки академических статей или научных статей, функция может помочь убедиться, что обобщенное содержимое точно представляет ключевые выводы и вклады, не вводя ложных утверждений.

Задачи QnA:

• Чат-боты поддержки клиентов: в поддержке клиентов функция может использоваться для проверки ответов, предоставляемых чат-ботами ИИ, что гарантирует, что клиенты получают точную и надежную информацию, когда они задают вопросы о продуктах или службах.
• Медицинская QnA: Для медицинской QnA функция помогает проверить точность медицинских ответов и консультаций, предоставляемых системами ИИ для медицинских специалистов и пациентов, что снижает риск медицинских ошибок.
• Образовательный QnA: в образовательных параметрах функция может применяться к задачам QnA, чтобы убедиться, что ответы на академические вопросы или тестовые запросы фактически точны, поддерживая процесс обучения.

Ограничения

Доступность языка

В настоящее время API обнаружения заземления поддерживает содержимое английского языка. Хотя наш API не ограничивает отправку содержимого, отличного от английского языка, мы не можем гарантировать тот же уровень качества и точности в анализе другого языкового содержимого. Мы рекомендуем пользователям отправлять содержимое на английском языке, чтобы обеспечить наиболее надежные и точные результаты api.

Ограничения длины текста

См . сведения о требованиях к входным данным для ограничений максимальной длины текста.

Регионы

Чтобы использовать этот API, необходимо создать ресурс безопасности содержимого Искусственного интеллекта Azure в поддерживаемых регионах. См . сведения о доступности региона.

Ограничения TPS

См. сведения о тарифах запросов.

Если вам нужна более высокая ставка, обратитесь к нам, чтобы запросить его.

Следующие шаги

Следуйте инструкциям из краткого руководства, чтобы приступить к работе с безопасностью содержимого ИИ Azure для обнаружения заземления.