Hallusinaatio syntyy, kun generatiivinen tekoälymalli tuottaa virheellistä, keksittyä tai perusteetonta tietoa, mutta esittää sen varmalla ja uskottavalta kuulostavalla tavalla. Kyse ei ole yksittäisestä laskuvirheestä, vaan kielimallien toimintatavasta: ne ennustavat opittujen kaavojen perusteella todennäköisintä tekstiä tarkistamatta, onko väite totta.
Tällä on merkitystä, koska tulosteen sujuvuus voi houkutella luottamaan vääriin tietoihin. Tyypillisiä esimerkkejä ovat:
- Olemattomat lähteet tai viitteet, joissa tekijät ja otsikot on keksitty.
- Virheelliset numerot tai päivämäärät, jotka esitetään faktoina.
- Vääriä attribuutioita, kuten lauseita, joita todellinen henkilö ei koskaan sanonut.
Riski kasvaa herkissä yhteyksissä, kuten lääketieteessä, oikeudessa tai journalismissa, joissa keksitty tieto voi aiheuttaa vakavia seurauksia. Siksi kriittiset tiedot kannattaa aina tarkistaa luotettavista lähteistä, ja tekoälyn vastauksia on syytä pitää lähtökohtana, ei vahvistettuna totuutena.