Retrieval-augmented generation -tekniikka on menetelmä, joka yhdistää kielimallin ulkoiseen tiedonhakujärjestelmään. Sen sijaan, että malli luottaisi pelkästään koulutuksen aikana opittuun tietoon, se hakee tietoa tietokannasta, dokumenteista tai vektori-indekseistä reaaliajassa ja käyttää löydettyä tietoa vastauksensa rakentamiseen.
Prosessi noudattaa yleensä kolmea vaihetta:
- Haku: etsitään käyttäjän kyselyyn liittyvimmät tekstikatkelmat.
- Laajennus: nämä katkelmat lisätään mallin saamaan kontekstiin.
- Generointi: malli tuottaa vastauksen tuon materiaalin pohjalta.
Tekniikan merkitys perustuu siihen, että se vähentää hallusinaatioita ja mahdollistaa työskentelyn ajantasaisen tai yksityisen datan kanssa ilman mallin uudelleenkoulutusta. Se on erityisen hyödyllinen yritysten avustajissa, joissa vastauksen on perustuttava konkreettiseen sisäiseen dokumentaatioon. Käytännön huomio: lopputulos riippuu sekä mallista että hakuvaiheesta, joten huonosti rakennettu indeksi heikentää tuloksia, vaikka malli olisi erinomainen.