Päättelymallit ovat kielimalleja, jotka on optimoitu ratkaisemaan ongelmia näkyvien välivaiheiden avulla sen sijaan, että ne tuottaisivat suoran vastauksen pelkästä seuraavan tokenin ennustamisesta. Ennen vastaamista ne käyttävät laskentatehoa "ajatteluun": ne pilkkovat ongelman osiin, tutkivat vaihtoehtoja ja tarkistavat tulokset. Tunnettuja esimerkkejä ovat OpenAI:n o1/o3-sarja, DeepSeek-R1 sekä Claude laajennetun päättelyn tiloissaan.
Niiden merkitys perustuu suorituskyvyn merkittävään kasvuun tehtävissä, jotka vaativat ketjutettua logiikkaa: matematiikassa, ohjelmoinnissa, todistuksissa ja monimutkaisessa suunnittelussa. Ne koulutetaan yleensä vahvistusoppimisen tekniikoilla, jotka palkitsevat oikeat päättelyketjut eivätkä pelkästään lopullista vastausta. Tämän ansiosta ne pystyvät korjaamaan itseään prosessin aikana.
Käytännössä on syytä ottaa huomioon seuraava seikka:
- Ne kuluttavat enemmän aikaa ja tokeneita, mikä tekee jokaisesta kyselystä kalliimman.
- Ne eivät aina kannata yksinkertaisissa tehtävissä, joissa tavallinen malli vastaa yhtä hyvin ja nopeammin.
Ne kannattaa varata ongelmiin, joissa jäsennelty päättely tuo selvän edun lisäkustannukseen nähden.