Fine-Tuning (Feinabstimmung) besteht darin, von einem bereits allgemein trainierten Modell auszugehen und dieses mit einem kleineren, spezifischeren Datensatz erneut zu trainieren, damit es sich auf eine bestimmte Aufgabe oder Domäne spezialisiert. Anstatt von Grund auf neu zu trainieren, wird das Vorwissen des Basismodells genutzt und dessen Parameter werden an die spezifischen Anforderungen angepasst.
Diese Technik ist wichtig, da sie es ermöglicht, spezialisierte Modelle mit weniger Daten, weniger Zeit und geringerem Rechenaufwand als bei einem vollständigen Training zu erhalten. Sie ist besonders nützlich für:
- Die Anpassung der Sprache an eine Branche (Recht, Medizin, Finanzen).
- Die Abstimmung des Stils oder des Tonfalls der Antworten.
- Die Verbesserung der Leistung bei sehr spezifischen Aufgaben.
Ein praktischer Hinweis: Es gibt leichtere Varianten wie LoRA oder QLoRA, die nur einen kleinen Teil der Parameter modifizieren und den Ressourcenbedarf weiter senken. Es ist ratsam, Fine-Tuning von anderen Alternativen wie Prompt Engineering oder RAG zu unterscheiden, die die Modellgewichte nicht verändern und manchmal ausreichen, um das Problem zu lösen.