La generació augmentada per recuperació és una tècnica que combina un model de llenguatge amb un sistema de cerca d'informació externa. En lloc de dependre només del coneixement après durant l'entrenament, el model consulta una base de dades, documents o índexs vectorials en temps real i utilitza aquesta informació recuperada per construir la seva resposta.
El procés sol seguir tres passos:
- Recuperació: se cerquen els fragments més rellevants per a la consulta de l'usuari.
- Augment: aquests fragments s'afegeixen al context que rep el model.
- Generació: el model produeix una resposta basada en aquest material.
La seva importància rau en el fet que redueix les al·lucinacions i permet treballar amb dades actualitzades o privades sense necessitat de reentrenar el model. És especialment útil en assistents corporatius, on la resposta s'ha de basar en documentació interna concreta. Un matís pràctic: la qualitat final depèn tant del model com de la fase de recuperació, per la qual cosa un índex mal construït degrada els resultats encara que el model sigui excel·lent.