Els embeddings són representacions numèriques que capturen el significat d'una dada (una paraula, una frase, un document o una imatge) en forma d'un vector de centenars o milers de dimensions. La clau és que aquests vectors es construeixen de manera que elements amb significats semblants queden propers en l'espai vectorial, mentre que els molt diferents queden allunyats. Així, el model no treballa amb text en brut, sinó amb coordenades que codifiquen relacions semàntiques.
La seva importància rau en el fet que permeten que els ordinadors comparin significats de forma matemàtica, mesurant, per exemple, la distància o el cosinus entre dos vectors. Això habilita tasques com:
- Cerca semàntica: trobar resultats per sentit, no per paraules exactes.
- Sistemes de recomanació i agrupació (clustering) de continguts similars.
- RAG, on es recuperen fragments rellevants per alimentar un model de llenguatge.
Un matís pràctic: un mateix terme pot tenir embeddings diferents segons el model que els generi, per la qual cosa convé utilitzar sempre el mateix model per indexar i consultar, garantint que els vectors siguin comparables entre si.