Pienet kielimallit (Small Language Models, SLM) ovat kielimalleja, joilla on vähän parametreja, tyypillisesti muutamasta sadasta miljoonasta muutamaan miljardiin. Suurilla kielimalleilla (LLM) niitä on satoja miljardeja. Pienempi koko tekee SLM-malleista kevyitä, nopeita ja tehokkaita. Ne voivat toimia paikallisesti kannettavilla tietokoneilla, matkapuhelimilla tai reunalaitteilla ilman riippuvuutta pilvipalvelimista.
Niiden merkitys perustuu useisiin käytännön seikkoihin:
- Yksityisyys: tiedot voidaan käsitellä laitteella itsellään, eikä niitä lähetetä kolmansille osapuolille.
- Kustannukset ja viive: ne vaativat vähemmän laskentaresursseja ja vastaavat nopeammin.
- Kestävyys: ne kuluttavat vähemmän energiaa sekä koulutuksessa että päättelyssä.
Vastapainona ne tarjoavat yleensä rajallisemman suorituskyvyn monimutkaisissa tehtävissä tai tehtävissä, jotka vaativat laajaa tietämystä. Siksi monet SLM-mallit erikoistuvat tai niitä hienosäädetään tietyille toimialueille, joilla ne vastaavat suurempien mallien suorituskykyä tai ylittävät sen. Tunnettuja esimerkkejä ovat Microsoftin Phi-mallisarja, Googlen Gemma sekä Llama pienimmissä versioissaan.