Начало работы с чатом с помощью собственного примера данных для Java

В этой статье показано, как развернуть и запустить чат с примером данных для Java. В этом примере реализовано приложение чата с помощью Java, Azure OpenAI Service и извлечения дополненного поколения (RAG) в службе поиска искусственного интеллекта Azure, чтобы получить ответы о преимуществах сотрудников в вымышленной компании. Приложение заполнено PDF-файлами, включая руководство сотрудника, документ о преимуществах и список ролей и ожиданий компании.

• Демонстрационное видео

Следуя инструкциям в этой статье, вы получите следующее:

• Разверните приложение чата в Azure.
• Получите ответы о преимуществах сотрудников.
• Измените параметры, чтобы изменить поведение ответов.

Завершив эту статью, вы можете начать изменение нового проекта с помощью пользовательского кода.

Эта статья является частью коллекции статей, демонстрирующих создание приложения чата с помощью Службы OpenAI Azure и поиска ИИ Azure. Другие статьи в коллекции включают:

• .NET
• JavaScript
• Python

Обзор архитектуры

Простая архитектура приложения чата показана на следующей схеме:

Ключевые компоненты архитектуры:

• Веб-приложение для размещения интерактивного чата.
• Ресурс поиска ИИ Azure для получения ответов из собственных данных.
• Служба Azure OpenAI для предоставления:
  • Ключевые слова для улучшения поиска по собственным данным.
  • Ответы из модели OpenAI.
  • Внедрение из модели ada

Себестоимость

Большинство ресурсов в этой архитектуре используют базовую или ценовую категорию потребления. Цены на потребление основаны на использовании, что означает, что вы оплачиваете только то, что вы используете. Чтобы завершить эту статью, будет взиматься плата, но она будет минимальной. Когда вы закончите работу со статьей, вы можете удалить ресурсы для прекращения расходов.

Дополнительные сведения о затратах в примере репозитория.

Необходимые компоненты

Среда контейнера разработки доступна со всеми зависимостями, необходимыми для выполнения этой статьи. Контейнер разработки можно запустить в GitHub Codespaces (в браузере) или локально с помощью Visual Studio Code.

Чтобы использовать эту статью, вам потребуются следующие предварительные требования:

Открытие среды разработки

Начните с среды разработки, которая содержит все зависимости, установленные для выполнения этой статьи.

Развертывание и запуск

Пример репозитория содержит все файлы кода и конфигурации, необходимые для развертывания приложения чата в Azure. Ниже приведены инструкции по развертыванию примера в Azure.

Развертывание приложения чата в Azure

1. Выполните следующую команду Командной строки разработчика Azure, чтобы подготовить ресурсы Azure и развернуть исходный код:

   azd up
   

2. Если вам будет предложено ввести имя среды, сохраните его коротким и нижним регистром. Например, myenv. Он используется в качестве части имени группы ресурсов.

3. При появлении запроса выберите подписку, чтобы создать ресурсы.

4. Когда появится запрос на выбор расположения в первый раз, выберите расположение рядом с вами. Это расположение используется для большинства ресурсов, включая размещение.

5. Если вам будет предложено указать расположение для модели OpenAI, выберите расположение, которое находится рядом с вами. Если то же расположение доступно в качестве первого расположения, выберите это.

6. Дождитесь развертывания приложения. Для завершения развертывания может потребоваться 5–10 минут.

7. После успешного развертывания приложения вы увидите URL-адрес, отображаемый в терминале.

8. Выберите этот URL-адрес, чтобы Deploying service web открыть приложение чата в браузере.

Использование приложения чата для получения ответов из PDF-файлов

Приложение чата предварительно загружено с информацией о преимуществах сотрудников из PDF-файлов. Вы можете использовать приложение чата, чтобы задать вопросы о преимуществах. В следующих шагах описан процесс использования приложения чата.

1. В браузере выберите или введите "Что входит в план Northwind Health Plus, который не является стандартным?" в текстовом поле чата.

   

2. В ответе выберите один из ссылок.

   

3. На правой панели используйте вкладки, чтобы понять, как был создан ответ.

   Вкладка	Описание
   Процесс мысли	Это сценарий взаимодействия в чате.
   Вспомогательное содержимое	Сюда входят сведения для ответа на ваш вопрос и исходный материал.
   Источник	Откроется PDF-страница, содержащая ссылку.

4. По завершении выберите выбранную вкладку, чтобы закрыть панель.

Использование параметров приложения чата для изменения поведения ответов

Аналитика приложения чата определяется моделью OpenAI и параметрами, которые используются для взаимодействия с моделью.

Ниже описан процесс изменения параметров.

1. В браузере перейдите на вкладку "Параметры разработчика ".

2. Установите флажок "Предложить дальнейшие вопросы" и снова задайте один и тот же вопрос.

   What is my deductible?
   

   В чате были возвращены рекомендуемые ответы на следующие вопросы:

   1. What is the cost sharing for out-of-network services?
   2. Are preventive care services subject to the deductible?
   3. How does the prescription drug deductible work?
   

3. На вкладке "Параметры" отмените выбор семантического рангера для извлечения.

4. Задайте тот же вопрос снова?

   What is my deductible?
   

5. Что такое разница в ответах?

   Например, ответ, который использовал семантический рангер, предоставил один ответ: The deductible for the Northwind Health Plus plan is $2,000 per year

   Ответ без семантического ранжирования вернул ответ, который требовал больше работы для получения ответа: Based on the information provided, it is unclear what your specific deductible is. The Northwind Health Plus plan has different deductible amounts for in-network and out-of-network services, and there is also a separate prescription drug deductible. I would recommend checking with your provider or referring to the specific benefits details for your plan to determine your deductible amount

Очистка ресурсов

Очистка ресурсов Azure

Ресурсы Azure, созданные в этой статье, выставляются в подписку Azure. Если вы не ожидаете, что эти ресурсы потребуются в будущем, удалите их, чтобы избежать дополнительных расходов.

Выполните следующую команду Командной строки разработчика Azure, чтобы удалить ресурсы Azure и удалить исходный код:

azd down --purge

Очистка GitHub Codespaces

Как ответить на вопрос?

Приложение разделено на 2 приложения:

• Интерфейсное приложение JavaScript с помощью платформы React с инструментом сборки Vite.
• Серверное приложение Java отвечает на вопрос.

Внутренний /chat API выполняет шаги по получению ответа:

• Параметры сборки RAG: создайте набор параметров, которые будут использоваться для создания ответа.
• Создание подхода с помощью RAG: используйте сочетание моделей на основе извлечения и создания, чтобы создать подход для создания точного и естественного отклика.
• Запустите подход с параметрами RAG и предыдущей беседой: используйте подход и параметры RAG для создания ответа на основе предыдущей беседы. Ответ содержит сведения о том, какие документы использовались для создания ответа.

Получить помощь

Этот пример репозитория предлагает сведения об устранении неполадок.

Если ваш выпуск не устранен, зайдите в журнал проблемы репозитория.

Следующие шаги

• Получение исходного кода для примера, используемого в этой статье
• Создание приложения чата с помощью архитектуры решения Azure OpenAI
• Управление доступом в созданных приложениях ИИ с помощью службы "Поиск ИИ Azure"
• Создание готового решения OpenAI enterprise с помощью Azure Управление API
• Перебор векторного поиска с гибридными возможностями извлечения и ранжирования
• Дополнительные комплексные шаблоны azure AI