Une hallucination se produit lorsqu'un modèle d'IA générative génère des informations incorrectes, inventées ou sans fondement, tout en les présentant sur un ton assuré et plausible. Il ne s'agit pas d'une erreur de calcul ponctuelle, mais d'une limitation inhérente au fonctionnement des modèles de langage : ils prédisent le texte le plus probable selon des schémas appris, sans vérifier si ce qu'ils affirment est vrai.
Cela est important car la fluidité du résultat peut vous inciter à faire confiance à des données fausses. Voici quelques exemples courants :
- Citations ou références inexistantes, avec des auteurs et des titres inventés.
- Données numériques ou dates erronées présentées comme des faits.
- Attributions fausses, comme des citations qu'une personne réelle n'a jamais prononcées.
Le risque augmente dans des contextes sensibles tels que la médecine, le droit ou le journalisme, où une donnée inventée peut avoir de graves conséquences. C'est pourquoi il convient de toujours vérifier les informations critiques auprès de sources fiables et de traiter les réponses de l'IA comme un point de départ, et non comme une vérité confirmée.