La governança de la IA és el conjunt de polítiques, normes, processos i estructures de responsabilitat que una organització o autoritat estableix per garantir que els sistemes d'intel·ligència artificial es desenvolupin i s'utilitzin de forma segura, ètica i conforme a la llei. Abasta des de la regulació pública (com el Reglament Europeu d'IA) fins als marcs interns de les empreses per supervisar el cicle de vida dels seus models.
Importa perquè la IA planteja riscos concrets —biaixos discriminatoris, decisions opaques, fugues de dades o usos malintencionats— que no es mitiguen només amb tecnologia. Una bona governança se sol articular al voltant de diversos pilars:
- Transparència i explicabilitat dels sistemes i les seves decisions.
- Retiment de comptes, assignant responsables clars.
- Gestió de riscos i compliment normatiu.
- Equitat i protecció de dades de les persones afectades.
A la pràctica, això es tradueix en comitès d'ètica, auditories de models, documentació obligatòria i classificació de sistemes segons el seu nivell de risc, de manera que les aplicacions de major impacte rebin controls més estrictes abans del seu desplegament.