Eine Halluzination tritt auf, wenn ein generatives KI-Modell falsche, erfundene oder unbegründete Informationen erzeugt, diese jedoch in einem sicheren und plausiblen Ton präsentiert. Es handelt sich dabei nicht um einen punktuellen Rechenfehler, sondern um eine inhärente Einschränkung der Funktionsweise von Sprachmodellen: Sie sagen den wahrscheinlichsten Text basierend auf gelernten Mustern voraus, ohne zu prüfen, ob ihre Aussagen der Wahrheit entsprechen.
Dies ist von Bedeutung, da die sprachliche Gewandtheit des Ergebnisses dazu verleiten kann, falschen Daten zu vertrauen. Einige häufige Beispiele sind:
- Nicht existierende Zitate oder Referenzen mit erfundenen Verfassenden und Titeln.
- Fehlerhafte Zahlenwerte oder Datumsangaben, die als Fakten dargestellt werden.
- Falsche Zuschreibungen, wie etwa Aussagen, die eine reale Person nie getätigt hat.
Das Risiko steigt in sensiblen Bereichen wie der Medizin, dem Recht oder dem Journalismus, in denen eine erfundene Information schwerwiegende Folgen haben kann. Daher empfiehlt es sich, kritische Informationen stets anhand zuverlässiger Quellen zu verifizieren und KI-Antworten als Ausgangspunkt zu betrachten, nicht als bestätigte Wahrheit.