Los Small Language Models son modelos de lenguaje con un número reducido de parámetros, normalmente entre unos pocos cientos de millones y unos pocos miles de millones, frente a los cientos de miles de millones de los grandes modelos (LLM). Esta menor escala los hace ligeiros, rápidos e eficientes, capaces de executarse en local sobre portátiles, móbiles ou dispositivos de bordo sen depender de servidores na nube.
A súa relevancia radica en varios factores prácticos:
- Privacidade: os datos poden procesarse no propio dispositivo, sen enviarse a terceiros.
- Custo e latencia: requiren menos recursos de cómputo e respostan con maior rapidez.
- Sustentabilidade: consomen menos enerxía durante o adestramento e a inferencia.
En troca, adoitan ofrecer un rendemento máis limitado en tarefas complexas ou de coñecemento amplo. Por iso, moitos SLM se especializan ou se afinan para dominios concretos, onde igualan ou superan a modelos maiores. Exemplos coñecidos inclúen as familias Phi de Microsoft, Gemma de Google ou Llama nas súas versións máis pequenas.