Das Scaffold (oder das Grundgerüst) ist die Code-Schicht, die ein Sprachmodell umgibt und es in einen handlungsfähigen Agenten verwandelt. Es handelt sich nicht um das Modell selbst, sondern um die gesamte Infrastruktur, die es umgibt: Sie verwaltet die Denkschleife, verbindet externe Werkzeuge, erhält den Speicher aufrecht und übersetzt die Entscheidungen des Modells in konkrete Aktionen in der Umgebung.
Seine Bedeutung liegt darin, dass ein isoliertes Modell lediglich Text generiert; erst das Scaffold verleiht ihm operative Autonomie. Dasselbe Modell kann sich je nach dem es orchestrierenden Grundgerüst sehr unterschiedlich verhalten. Die üblichen Komponenten sind:
- Kontrollschleife: entscheidet, wann weiter nachgedacht oder gehandelt werden soll.
- Tool-Schnittstelle: ermöglicht das Ausführen von Code, das Suchen oder das Aufrufen von APIs.
- Kontextmanagement: organisiert Speicher, Verlauf und Prompts.
Ein klares Beispiel ist ein Programmieragent: Das Scaffold liest das Modell aus, führt die von ihm vorgeschlagenen Befehle aus, erfasst Fehler und gibt diese an das Modell zurück, damit es iterieren kann. Die Qualität des Grundgerüsts bestimmt die endgültige Leistung oft ebenso stark wie das Modell selbst.