Prompt drift kuvaa sellaisen kehotteen (prompt) asteittaista heikkenemistä, joka on aiemmin tuottanut hyviä tuloksia, mutta alkaa ajan myötä tuottaa huonommpia, epäjohdonmukaisia tai suoraan virheellisiä vastauksia. Se ei yleensä johdu itse tekstin muutoksesta, vaan ulkoisista tekijöistä, jotka muuttavat taustalla olevan mallin toimintaa.
Yleisimmät syyt ovat:
- Mallipäivitykset: palveluntarjoaja julkaisee uuden version, jonka toiminta on erilaista.
- Oletusparametrien muutokset, kuten lämpötila (temperature) tai käytettävissä oleva asiayhteys (context).
- Data- tai käyttötapauspoikkeama, kun todelliset syötteet alkavat poiketa niistä, joita varten kehotte on suunniteltu.
Tämä on tärkeää, koska se vaikuttaa tuotantoympäristössä oleviin järjestelmiin: vakaa integraatio voi hajota ilman, että kukaan on koskenut koodiin. Esimerkiksi kehotteellinen tiedonhaku JSON-muodossa saattaa päivityksen jälkeen lisätä selittävää tekstiä, joka rikkoo jatkokäsittelyn. Tämän lieventämiseksi on suositeltavaa lukita mallin tietyt versiot, seurata tulosteiden laatua ja ylläpitää regressiotestisarjaa, joka havaitsee heikkenemisen ajoissa.