A geração aumentada por recuperação é uma técnica que combina um modelo de linguagem com um sistema de pesquisa de informação externa. Em vez de depender apenas do conhecimento aprendido durante o treino, o modelo consulta uma base de dados, documentos ou índices vetoriais em tempo real e utiliza essa informação recuperada para construir a sua resposta.
O processo segue geralmente três passos:
- Recuperação: procuram-se os fragmentos mais relevantes para a consulta do utilizador.
- Aumento: esses fragmentos são adicionados ao contexto que o modelo recebe.
- Geração: o modelo produz uma resposta baseada nesse material.
A sua importância reside no facto de reduzir as alucinações e permitir trabalhar com dados atualizados ou privados sem necessidade de voltar a treinar o modelo. É especialmente útil em assistentes corporativos, onde a resposta deve basear-se em documentação interna concreta. Uma nuance prática: a qualidade final depende tanto do modelo como da fase de recuperação, pelo que um índice mal construído degrada os resultados, mesmo que o modelo seja excelente.