LoRA (Low-Rank Adaptation) on tehokas hienosäätötekniikka, joka välttää kaikkien mallin parametrien muokkaamisen. Sen sijaan, että uudelleenkoulutettaisiin miljardit alkuperäiset painot, LoRA jäädyttää perusmallin ja lisää pieniä matalan asteen matriiseja, joita koulutetaan erikseen. Tuloksena on kevyt sovitustiedosto (usein muutaman megatavun kokoinen), joka sovelletaan malliin muuttamatta sitä.
QLoRA vie tätä ajatusta pidemmälle yhdistämällä sen kvantisointiin: perusmalli ladataan vähennetyllä tarkkuudella (yleensä 4 bitillä), mikä vähentää muistin kulutusta huomattavasti. Tämän ansiosta suuria malleja voi hienosäätää yhdellä kuluttajatason näytönohjaimella.
Niiden merkitys on käytännöllinen ja taloudellinen:
- Ne vähentävät laitteistokustannuksia ja koulutusaikaa.
- Ne mahdollistavat useiden erikoistuneiden sovittimien ylläpitämisen samalle perusmallille.
- Ne helpottavat sovitusten jakamista ja levittämistä ilman koko mallin siirtämistä.
Yksi huomautus: nämä tekniikat soveltuvat erinomaisesti mallin erikoistamiseen tiettyihin tehtäviin tai tyyleihin, mutta ne eivät yleensä korvaa täyttä koulutusta, kun tavoitteena on syvällisesti uuden tiedon sisällyttäminen.