Introdução

  • 2 minutos

Os modelos de linguagem estão crescendo em popularidade, pois criam respostas coerentes e impressionantes para as perguntas de um usuário. Especialmente quando um usuário interage com um modelo de linguagem por meio de chat, ele oferece uma maneira intuitiva de obter as informações necessárias.

Um desafio predominante na implantação de modelos de linguagem por meio de chat é a chamada fundamentalidade, que se refere ao fato de uma resposta estar enraizada, conectada ou ancorada na realidade ou em um contexto específico. Em outras palavras, a fundamentação refere-se ao fato de a resposta de um modelo de linguagem ser baseada em informações factuais.

Solicitações e respostas sem referência

Quando você usa um modelo de linguagem para gerar uma resposta a um prompt, a única informação em que o modelo precisa basear a resposta vem dos dados nos quais ele foi treinado , que geralmente é apenas um grande volume de texto nãotextualizado da Internet ou de alguma outra fonte.

Diagrama de um modelo sem aterramento retornando uma resposta não contextualizada.

O resultado provavelmente será uma resposta gramaticalmente coerente e lógica à solicitação, mas como ele não está fundamentado em dados relevantes e fatos, ele não é especificado e pode de fato ser impreciso e incluir informações "inventadas". Por exemplo, a pergunta "Qual produto devo usar para fazer X?" pode incluir detalhes de um produto fictício.

Solicitações e respostas fundamentadas

Por outro lado, você pode usar uma fonte de dados para fundamentar o prompt com algum contexto factual e relevante. Em seguida, a solicitação pode ser enviada para um modelo de linguagem, incluindo os dados de referência, para gerar uma resposta contextualizada, relevante e precisa.

Diagrama de um modelo aterrado retornando uma resposta contextualizada.

A fonte de dados pode ser qualquer repositório de dados relevantes. Por exemplo, você pode usar dados de um banco de dados do catálogo de produtos para fundamentar o prompt "Qual produto devo usar para fazer X?" garantindo que a resposta inclua detalhes relevantes dos produtos que existem no catálogo.

Neste módulo, você explorará como criar seu próprio aplicativo de modelo de linguagem baseado em chat que seja fundamentado, criando um agente com seus próprios dados.