Unha alucinación prodúcese cando un modelo de IA xerativa xera información incorrecta, inventada ou sen fundamento, pero preséntaa cun tono seguro e plausible. Non se trata dun erro puntual de cálculo, senón dunha limitación inherente ao xeito en que funcionan os modelos de linguaxe: predicen o texto máis probable segundo patróns aprendidos, sen verificar se o que afirman é certo.
Isto importa porque a fluidez do resultado pode inducir a confiar en datos falsos. Algúns exemplos habituais son:
- Citas ou referencias inexistentes, con autores e títulos inventados.
- Datos numéricos ou datas erróneos presentados como feitos.
- Atribucións falsas, como frases que nunca dixo unha persoa real.
O risco aumenta en contextos sensibles como a medicina, o dereito ou o xornalismo, onde un dato inventado pode ter consecuencias graves. Por iso convén verificar sempre a información crítica con fontes fiables e tratar as respostas da IA como un punto de partida, non como unha verdade confirmada.