Uma alucinação ocorre quando um modelo de IA generativa gera informação incorreta, inventada ou sem fundamento, mas apresenta-a com um tom seguro e plausível. Não se trata de um erro pontual de cálculo, mas sim de uma limitação inerente à forma como funcionam os modelos de linguagem: preveem o texto mais provável segundo padrões aprendidos, sem verificar se o que afirmam é verdade.
Isto é importante porque a fluidez do resultado pode induzir a confiar em dados falsos. Alguns exemplos habituais são:
- Citações ou referências inexistentes, com autores e títulos inventados.
- Dados numéricos ou datas errados apresentados como factos.
- Atribuições falsas, como frases que nunca foram ditas por uma pessoa real.
O risco aumenta em contextos sensíveis como a medicina, o direito ou o jornalismo, onde um dado inventado pode ter consequências graves. Por isso, convém verificar sempre a informação crítica com fontes fiáveis e tratar as respostas da IA como um ponto de partida, não como uma verdade confirmada.