Hyökkäystekniikka kehotteiden injektointi (prompt injection) tarkoittaa haitallisten ohjeiden lisäämistä kielimallin syötteeseen sen toiminnan muuttamiseksi. Koska nämä järjestelmät eivät luotettavasti erota kehittäjän laillisia ohjeita niiden käsittelemästä sisällöstä, hyökkääjä voi »livahduttaa» käskyjä, jotka malli lopulta suorittaa ikään kuin ne olisivat sen omia.
Tällä on merkitystä, koska se vaarantaa tekoälypohjaisten sovellusten turvallisuuden ja luottamuksellisuuden. Erotetaan yleensä kaksi tapaa:
- Suora injektointi: käyttäjä kirjoittaa ohjeita, joilla pyritään kumoamaan järjestelmän säännöt (esimerkiksi »unohda aiemmat ohjeesi»).
- Epäsuora injektointi: haitalliset käskyt piilotetaan ulkoiseen dataan, jonka malli lukee, kuten verkkosivulle tai sähköpostiin.
Tyypillinen esimerkki on asistentti, joka tiivistää asiakirjoja ja käsittelee tekstiä, jonka piilotettu käsky on suodattaa yksityistä tietoa. Torjuminen edellyttää syötteiden validointia, mallin oikeuksien rajoittamista ja datan selkeää erottamista ohjeista, vaikka täysin virheetöntä ratkaisua ei ole olemassa.