Upotukset ovat numeerisia esityksiä, jotka tallentavat datan (sanan, lauseen, asiakirjan tai kuvan) merkityksen vektorina, jossa on satoja tai tuhansia ulottuvuuksia. Olennaista on, että vektorit muodostetaan niin, että merkitykseltään samankaltaiset kohteet sijoittuvat lähelle toisiaan vektoriavaruudessa, kun taas hyvin erilaiset kohteet ovat kaukana toisistaan. Malli ei siis käsittele raakaa tekstiä, vaan koordinaatteja, jotka koodaavat semanttisia suhteita.
Niiden merkitys on siinä, että ne mahdollistavat merkitysten vertailun tietokoneilla matemaattisesti: esimerkiksi kahden vektorin välisen etäisyyden tai kosinin avulla. Tämä mahdollistaa tehtäviä, kuten:
- Semanttinen haku: tulosten löytäminen merkityksen, ei tarkkojen sanojen perusteella.
- Suosittelujärjestelmät ja samankaltaisen sisällön ryhmittely (clustering).
- RAG, jossa haetaan olennaisia tekstikatkelmia kielimallin syötteeksi.
Käytännön vivahde: sama termi voi saada erilaiset upotukset sen mukaan, mikä malli ne tuottaa, joten on suositeltavaa käyttää aina samaa mallia sekä indeksoinnissa että kyselyissä. Näin vektorit ovat keskenään vertailukelpoisia.