Una al·lucinació es produeix quan un model d'IA generativa genera informació incorrecta, inventada o sense fonament, però la presenta amb un to segur i plausible. No es tracta d'un error puntual de càlcul, sinó d'una limitació inherent a com funcionen els models de llenguatge: prediuen el text més probable segons patrons apresos, sense verificar si el que afirmen és cert.
Això importa perquè la fluïdesa del resultat pot induir a confiar en dades falses. Alguns exemples habituals són:
- Cites o referències inexistents, amb autors i títols inventats.
- Dades numèriques o dates errònies presentades com a fets.
- Atribucions falses, com frases que mai va dir una persona real.
El risc augmenta en contextos sensibles com la medicina, el dret o el periodisme, on una dada inventada pot tenir conseqüències greus. Per això convé verificar sempre la informació crítica amb fonts fiables i tractar les respostes de la IA com un punt de partida, no com una veritat confirmada.