Os modelos de raciocínio são sistemas de linguagem otimizados para resolver problemas através de passos intermédios explícitos, em vez de gerarem uma resposta direta a partir da mera previsão do token seguinte. Antes de responderem, dedicam tempo de computação a "pensar": decompõem o problema, exploram alternativas e verificam resultados. Exemplos conhecidos são a série o1/o3 da OpenAI, o DeepSeek-R1 ou o Claude nos seus modos de raciocínio alargado.
A sua importância reside no salto de desempenho que oferecem em tarefas que exigem lógica encadeada: matemática, programação, demonstrações ou planeamento complexo. São habitualmente treinados com técnicas de aprendizagem por reforço que premiam as cadeias de raciocínio corretas, não apenas a resposta final. Isto permite-lhes autocorrigirem-se durante o processo.
Uma nuance prática relevante:
- Consomem mais tempo e tokens, o que encarece cada consulta.
- Nem sempre compensam em tarefas simples, onde um modelo convencional responde tão bem e de forma mais rápida.
Convém reservá-los para problemas onde o raciocínio estruturado traga uma vantagem clara face ao custo adicional.