KI-Governance bezeichnet die Gesamtheit der Richtlinien, Normen, Prozesse und Verantwortlichkeitsstrukturen, die eine Organisation oder Behörde festlegt, um sicherzustellen, dass Systeme der künstlichen Intelligenz sicher, ethisch und gesetzeskonform entwickelt und genutzt werden. Sie reicht von staatlicher Regulierung (wie der EU-KI-Verordnung) bis hin zu internen Rahmenbedingungen von Unternehmen zur Überwachung des Lebenszyklus ihrer Modelle.
Sie ist von Bedeutung, da die KI konkrete Risiken birgt – diskriminierende Voreingenommenheit, undurchsichtige Entscheidungen, Datenlecks oder böswillige Nutzungen –, die nicht allein durch Technologie gemindert werden können. Eine gute Governance stützt sich üblicherweise auf mehrere Säulen:
- Transparenz und Erklärbarkeit der Systeme und ihrer Entscheidungen.
- Rechenschaftspflicht durch die Zuweisung klarer Verantwortlichkeiten.
- Risikomanagement und Compliance.
- Fairness und Datenschutz der betroffenen Personen.
In der Praxis schlägt sich dies in Ethikkomitees, Modellaudits, obligatorischer Dokumentation und der Klassifizierung von Systemen nach ihrem Risikoniveau nieder, sodass Anwendungen mit größeren Auswirkungen vor ihrem Einsatz strengeren Kontrollen unterliegen.