Shadow AI bezeichnet den Einsatz von Werkzeugen der künstlichen Intelligenz durch Mitarbeitende ohne die Genehmigung oder das Wissen der IT-Abteilung oder der Sicherheitsverantwortlichen. Es handelt sich um eine Variante des umfassenderen Phänomens der Shadow IT, die sich jedoch auf Anwendungen der generativen KI, Konversationsassistenten oder Cloud-Dienste konzentriert, welche die Beschäftigten in Eigeninitiative einführen, um ihre Aufgaben zu beschleunigen.
Die Relevanz liegt in den Risiken, die damit einhergehen, oft unsichtbar für die Organisation:
- Datenabfluss: Vertrauliche Informationen, die in externe Werkzeuge eingegeben werden, welche diese zum Training von Modellen wiederverwenden können.
- Compliance-Verstöße: Verletzung der DSGVO oder anderer Datenschutzbestimmungen.
- Mangelnde Rückverfolgbarkeit: Entscheidungen oder Inhalte, die ohne Qualitätskontrolle oder Protokollierung erstellt wurden.
Ein typisches Beispiel ist, wenn Mitarbeitende Fragmente eines Vertrags oder Quellcodes in einen öffentlichen Chatbot kopieren, um diese zusammenzufassen oder zu bereinigen. Die Reaktion von Unternehmen besteht meist nicht in einem vollständigen Verbot, sondern in der Festlegung klarer Nutzungsrichtlinien und der Bereitstellung sicherer Unternehmensalternativen, die diese tatsächlichen Bedürfnisse abdecken.