Comece a usar o bate-papo usando sua própria amostra de dados para Java

Este artigo mostra como implantar e executar o Chat com seu exemplo de dados para Java. Este exemplo implementa um aplicativo de bate-papo usando Java, Serviço OpenAI do Azure e Geração Aumentada de Recuperação (RAG) na Pesquisa de IA do Azure para obter respostas sobre os benefícios dos funcionários em uma empresa fictícia. O aplicativo é semeado com arquivos PDF, incluindo o manual do funcionário, um documento de benefícios e uma lista de funções e expectativas da empresa.

• Vídeo de demonstração

Seguindo as instruções neste artigo, você irá:

• Implante um aplicativo de chat no Azure.
• Obtenha respostas sobre os benefícios dos funcionários.
• Altere as configurações para alterar o comportamento das respostas.

Depois de concluir este artigo, você pode começar a modificar o novo projeto com seu código personalizado.

Este artigo faz parte de uma coleção de artigos que mostram como criar um aplicativo de chat usando o Serviço OpenAI do Azure e a Pesquisa do Azure AI. Outros artigos da coleção incluem:

• .NET
• JavaScript
• Python

Descrição geral da arquitetura

Uma arquitetura simples do aplicativo de bate-papo é mostrada no diagrama a seguir:

Os principais componentes da arquitetura incluem:

• Uma aplicação Web para alojar a experiência de chat interativa.
• Um recurso do Azure AI Search para obter respostas dos seus próprios dados.
• Um Serviço OpenAI do Azure para fornecer:
  • Palavras-chave para melhorar a pesquisa sobre os seus próprios dados.
  • Respostas do modelo OpenAI.
  • Incorporações do modelo ada

Custo

A maioria dos recursos nessa arquitetura usa um nível de preço básico ou de consumo. O preço de consumo é baseado no uso, o que significa que você paga apenas pelo que usa. Para completar este artigo, haverá uma cobrança, mas será mínima. Quando terminar o artigo, você pode excluir os recursos para parar de incorrer em cobranças.

Saiba mais sobre o custo no repositório de amostra.

Pré-requisitos

Um ambiente de contêiner de desenvolvimento está disponível com todas as dependências necessárias para concluir este artigo. Você pode executar o contêiner de desenvolvimento no GitHub Codespaces (em um navegador) ou localmente usando o Visual Studio Code.

Para usar este artigo, você precisa dos seguintes pré-requisitos:

Ambiente de desenvolvimento aberto

Comece agora com um ambiente de desenvolvimento que tenha todas as dependências instaladas para concluir este artigo.

Implantar e executar

O repositório de exemplo contém todos os arquivos de código e configuração necessários para implantar um aplicativo de chat no Azure. As etapas a seguir orientam você pelo processo de implantação do exemplo no Azure.

Implantar o aplicativo de chat no Azure

1. Execute o seguinte comando da CLI do Desenvolvedor do Azure para provisionar os recursos do Azure e implantar o código-fonte:

   azd up
   

2. Se você for solicitado a inserir um nome de ambiente, mantenha-o curto e minúsculo. Por exemplo, myenv. Ele é usado como parte do nome do grupo de recursos.

3. Quando solicitado, selecione uma assinatura para criar os recursos.

4. Quando lhe for pedido para selecionar uma localização pela primeira vez, selecione uma localização perto de si. Este local é usado para a maioria dos recursos, incluindo hospedagem.

5. Se for solicitado um local para o modelo OpenAI, selecione um local próximo a você. Se o mesmo local estiver disponível como seu primeiro local, selecione isso.

6. Aguarde até que o aplicativo seja implantado. Pode levar de 5 a 10 minutos para que a implantação seja concluída.

7. Depois que o aplicativo for implantado com êxito, você verá uma URL exibida no terminal.

8. Selecione esse URL rotulado Deploying service web para abrir o aplicativo de bate-papo em um navegador.

Use o aplicativo de bate-papo para obter respostas de arquivos PDF

O aplicativo de bate-papo é pré-carregado com informações de benefícios de funcionários de arquivos PDF. Você pode usar o aplicativo de bate-papo para fazer perguntas sobre os benefícios. As etapas a seguir orientam você pelo processo de uso do aplicativo de bate-papo.

1. No navegador, selecione ou digite "O que está incluído no meu plano Northwind Health Plus que não está no padrão?" na caixa de texto do bate-papo.

   

2. Na resposta, selecione uma das citações.

   

3. No painel direito, use as guias para entender como a resposta foi gerada.

   Separador	Description
   Processo de pensamento	Este é um script das interações no chat.
   Conteúdo de suporte	Isso inclui as informações para responder à sua pergunta e o material de origem.
   Citação	Isso exibe a página PDF que contém a citação.

4. Quando terminar, selecione a guia selecionada novamente para fechar o painel.

Usar as configurações do aplicativo de bate-papo para alterar o comportamento das respostas

A inteligência do aplicativo de bate-papo é determinada pelo modelo OpenAI e as configurações que são usadas para interagir com o modelo.

As etapas a seguir orientam você pelo processo de alteração das configurações.

1. No navegador, selecione a guia Configurações do desenvolvedor .

2. Marque a caixa de seleção Sugerir perguntas de acompanhamento e faça a mesma pergunta novamente.

   What is my deductible?
   

   O bate-papo retornou sugestões de perguntas de acompanhamento, como as seguintes:

   1. What is the cost sharing for out-of-network services?
   2. Are preventive care services subject to the deductible?
   3. How does the prescription drug deductible work?
   

3. Na guia Configurações, desmarque Usar classificador semântico para recuperação.

4. Fazer a mesma pergunta novamente?

   What is my deductible?
   

5. Qual é a diferença nas respostas?

   Por exemplo, a resposta, que usou o ranker semântico, forneceu uma única resposta: The deductible for the Northwind Health Plus plan is $2,000 per year.

   A resposta sem classificação semântica retornou uma resposta, o que exigiu mais trabalho para obter a resposta: Based on the information provided, it is unclear what your specific deductible is. The Northwind Health Plus plan has different deductible amounts for in-network and out-of-network services, and there is also a separate prescription drug deductible. I would recommend checking with your provider or referring to the specific benefits details for your plan to determine your deductible amount.

Clean up resources (Limpar recursos)

Limpar recursos do Azure

Os recursos do Azure criados neste artigo são cobrados na sua assinatura do Azure. Se você não espera precisar desses recursos no futuro, exclua-os para evitar incorrer em mais cobranças.

Execute o seguinte comando da CLI do Desenvolvedor do Azure para excluir os recursos do Azure e remover o código-fonte:

azd down --purge

Limpar espaços de código do GitHub

Como é respondida a pergunta?

O aplicativo é separado em 2 aplicativos:

• Um aplicativo JavaScript front-end usando a estrutura React com a ferramenta de construção Vite.
• Um aplicativo Java back-end responde à pergunta.

A API de back-end /chat percorre o processo de obtenção da resposta:

• Opções de compilação RAG: crie um conjunto de opções que serão usadas para gerar uma resposta.
• Criar abordagem usando opções RAG: use uma combinação de modelos baseados em recuperação e generativos para criar uma abordagem para gerar uma resposta precisa e natural.
• Execute a abordagem com as opções RAG e conversação anterior: Use as opções de abordagem e RAG para gerar uma resposta com base na conversa anterior. A resposta inclui informações sobre quais documentos foram usados para gerar a resposta.

Obter ajuda

Este repositório de exemplo oferece informações de solução de problemas.

Se o problema não for resolvido, registre o problema nos Problemas do repositório.

Próximos passos

• Obtenha o código-fonte para o exemplo usado neste artigo
• Crie um aplicativo de bate-papo com a arquitetura de solução de práticas recomendadas do Azure OpenAI
• Controle de acesso em aplicativos de IA generativa com a Pesquisa de IA do Azure
• Crie uma solução OpenAI pronta para empresas com o Azure API Management
• Superando a pesquisa vetorial com recursos híbridos de recuperação e classificação
• Mais modelos de ponta a ponta da IA do Azure