El tokenmaxxing consisteix a aprofitar al màxim la finestra de context d'un model de llenguatge, és a dir, el nombre total de tokens que pot processar en una sola interacció. La idea és introduir tanta informació rellevant com sigui possible —documents, exemples, instruccions detallades o historials complets— perquè el model disposi de tot el material necessari abans de generar la seva resposta.
Aquesta pràctica importa perquè la qualitat de les respostes sol dependre més del context disponible que de l'astúcia del prompt. Carregar el context amb dades pertinents redueix les al·lucinacions i evita haver de dividir tasques complexes en múltiples crides. Resulta especialment útil en:
- Anàlisi de documents llargs o bases de codi senceres.
- Prompts amb molts exemples (few-shot extens).
- Converses que requereixen mantenir un historial ampli.
Convé un matís: més tokens no sempre equivalen a millors resultats. Els models pateixen el fenomen lost in the middle, prestant menys atenció a la informació situada al centre del context. Per això el tokenmaxxing eficaç combina quantitat amb una estructura clara que prioritzi les dades crítiques al principi o al final.