La génération augmentée par récupération est une technique qui combine un modèle de langage avec un système de recherche d'informations externes. Au lieu de dépendre uniquement des connaissances acquises lors de l'entraînement, le modèle consulte une base de données, des documents ou des index vectoriels en temps réel et utilise ces informations récupérées pour construire sa réponse.
Le processus suit généralement trois étapes :
- Récupération : les fragments les plus pertinents pour la requête de l'utilisateur sont recherchés.
- Augmentation : ces fragments sont ajoutés au contexte reçu par le modèle.
- Génération : le modèle produit une réponse basée sur ce matériel.
Son importance réside dans le fait qu'elle réduit les hallucinations et permet de travailler avec des données actualisées ou privées sans avoir besoin de réentraîner le modèle. Elle est particulièrement utile pour les assistants d'entreprise, où la réponse doit se baser sur une documentation interne concrète. Une nuance pratique : la qualité finale dépend autant du modèle que de la phase de récupération, c'est pourquoi un index mal construit dégrade les résultats même si le modèle est excellent.