LoRA (Low-Rank Adaptation) és una tècnica d'ajustament fi eficient que evita modificar tots els paràmetres d'un model. En lloc de reentrenar els milers de milions de pesos originals, congela el model base i afegeix petites matrius de baix rang que s'entrenen per separat. El resultat és un fitxer d'adaptació lleuger (sovint d'uns pocs megabytes) que s'aplica sobre el model sense alterar-lo.
QLoRA porta aquesta idea més lluny combinant-la amb la quantificació: el model base es carrega en una precisió reduïda (habitualment 4 bits), la qual cosa disminueix dràsticament el consum de memòria. Això permet ajustar models grans en una sola GPU de consum.
La seva importància és pràctica i econòmica:
- Redueixen el cost de maquinari i el temps d'entrenament.
- Permeten mantenir diversos adaptadors especialitzats per a un mateix model base.
- Faciliten compartir i distribuir adaptacions sense moure el model complet.
Un matís: aquestes tècniques són ideals per especialitzar un model en tasques o estils concrets, però no solen substituir un entrenament complet quan es busca incorporar coneixement profundament nou.