Os embeddings são representações numéricas que captam o significado de um dado (uma palavra, uma frase, um documento ou uma imagem) sob a forma de um vetor de centenas ou milhares de dimensões. A chave é que estes vetores são construídos de modo a que elementos com significados semelhantes fiquem próximos no espaço vetorial, enquanto os muito distintos ficam afastados. Assim, o modelo não trabalha com texto em bruto, mas sim com coordenadas que codificam relações semânticas.
A sua importância reside no facto de permitirem que os computadores comparem significados de forma matemática, medindo, por exemplo, a distância ou o cosseno entre dois vetores. Isto permite tarefas como:
- Pesquisa semântica: encontrar resultados pelo sentido, não por palavras exatas.
- Sistemas de recomendação e agrupamento (clustering) de conteúdos semelhantes.
- RAG, onde se recuperam fragmentos relevantes para alimentar um modelo de linguagem.
Uma nuance prática: um mesmo termo pode ter embeddings distintos consoante o modelo que os gera, pelo que convém utilizar sempre o mesmo modelo para indexar e consultar, garantindo que os vetores sejam comparáveis entre si.