Die abrufbasiert erweiterte Generierung ist eine Technik, die ein Sprachmodell mit einem System zur Suche externer Informationen kombiniert. Anstatt sich nur auf das während des Trainings erlernte Wissen zu verlassen, konsultiert das Modell in Echtzeit eine Datenbank, Dokumente oder Vektorindizes und nutzt diese abgerufenen Informationen, um seine Antwort zu erstellen.
Der Prozess folgt üblicherweise drei Schritten:
- Abruf: Es werden die relevantesten Fragmente für die Anfrage der nutzenden Person gesucht.
- Erweiterung: Diese Fragmente werden dem Kontext hinzugefügt, den das Modell erhält.
- Generierung: Das Modell erzeugt eine Antwort basierend auf diesem Material.
Ihre Bedeutung liegt darin, dass sie Halluzinationen reduziert und die Arbeit mit aktualisierten oder privaten Daten ermöglicht, ohne dass das Modell neu trainiert werden muss. Sie ist besonders nützlich bei Unternehmensassistenten, bei denen die Antwort auf konkreten internen Dokumentationen basieren muss. Eine praktische Nuance: Die endgültige Qualität hängt sowohl vom Modell als auch von der Abrufphase ab, weshalb ein schlecht aufgebauter Index die Ergebnisse verschlechtert, selbst wenn das Modell exzellent ist.