Shadow AI tarkoittaa sitä, että työntekijät käyttävät tekoälytyökaluja ilman IT-osaston tai tietoturvavastaavien hyväksyntää tai tietoa. Se on laajemman Shadow IT -ilmiön muunnelma, mutta keskittyy generatiivisiin tekoälysovelluksiin, keskustelevaisiin avustajiin ja pilvipalveluihin, joita työntekijät ottavat käyttöön omasta aloitteestaan työtehtäviensä nopeuttamiseksi.
Sen merkitys liittyy riskeihin, joita se tuo mukanaan ja jotka jäävät organisaatiolta usein huomaamatta:
- Tietovuodot: luottamuksellista tietoa syötetään ulkoisiin työkaluihin, jotka voivat käyttää sitä mallien kouluttamiseen.
- Lainsäädännön noudattamatta jättäminen: EU:n yleisen tietosuoja-asetuksen (GDPR) tai muiden tietosuojasäädösten rikkominen.
- Jäljitettävyyden puute: päätöksiä tai sisältöjä syntyy ilman laadunvalvontaa tai kirjausta.
Tyypillinen esimerkki on työntekijä, joka liittää sopimuksen tai lähdekoodin katkelmia julkiseen chatbottiin tiivistääkseen tai etsiäkseen siitä virheitä. Yritykset eivät yleensä vastaa tähän kieltämällä käyttöä kokonaan, vaan laatimalla selkeät käyttöpolitiikat ja tarjoamalla turvallisia yrityskäyttöön tarkoitettuja vaihtoehtoja, jotka vastaavat todellisiin tarpeisiin.