La temperature és un paràmetre numèric que regula el grau d'aleatorietat en les respostes d'un model de llenguatge. Tècnicament, ajusta la distribució de probabilitat sobre les possibles paraules següents: valors baixos fan que el model triï gairebé sempre les opcions més probables, mentre que valors alts reparteixen la probabilitat de forma més uniforme, donant cabuda a sortides menys predictibles.
Sol moure's en un rang de 0 a 2, i la seva elecció depèn de la tasca:
- Valors baixos (0–0,3): respostes deterministes i precises, ideals per a l'extracció de dades, codi o resums factuals.
- Valors mitjans (0,5–0,8): equilibri entre coherència i varietat, útil per a assistència general.
- Valors alts (1–2): major creativitat i diversitat, adequats per a l'escriptura literària o pluja d'idees.
A la pràctica, convé recordar que una temperature elevada no millora el «coneixement» del model, només la seva variabilitat: pot augmentar tant l'originalitat com el risc de respostes incoherents o inventades. Per a la reproductibilitat, se sol fixar en 0 o un valor molt proper.