Jailbreaking tarkoittaa tekniikoita, joiden avulla käyttäjä yrittää kiertää kielimallin suojauksia ja käyttöpolitiikkoja saadakseen vastauksia, jotka normaalisti estettäisiin, kuten vaarallisia ohjeita, kiellettyä sisältöä tai tietoa, jonka antamiseen järjestelmä on suunniteltu olemaan vastaamatta. Toisin kuin pelkkä väärinkäyttö, siinä pyritään tahallisesti hyödyntämään mallin kohdistuksen (alignment) rajoituksia.
Yleisimpiä strategioita ovat:
- Roolipelit, joissa mallia pyydetään toimimaan rajoituksettomana hahmona.
- Komentojen syöteinjektio (prompt injection), joka on ristiriidassa järjestelmän ohjeiden kanssa tai kumoaa ne.
- Hämärtäminen koodaamalla pyyntö toisella kielellä, salakielellä tai palasina.
Näiden tekniikoiden ymmärtäminen on turvallisuuden kannalta keskeistä, sillä se paljastaa suodatuksen heikkoudet ja kannustaa vahvempiin puolustustoimiin (vastapuolen koulutus, tulostussuodattimet, ihmisen tekemä valvonta). On hyvä erottaa se kehotteen injektiosta (prompt injection), joka keskittyy mallin integroivien sovellusten manipulointiin. Käytännössä mikään järjestelmä ei ole täysin immuuni, minkä vuoksi jailbreakingia pidetään jatkuvana riskinä, joka vaatii jatkuvaa valvontaa ja päivitystä.