A governanza da IA é o conxunto de políticas, normas, procesos e estruturas de responsabilidade que unha organización ou autoridade establece para garantir que os sistemas de intelixencia artificial se desenvolvan e utilicen de forma segura, ética e conforme á lei. Abrangue desde a regulación pública (como o Regulamento Europeo de IA) ata os marcos internos das empresas para supervisar o ciclo de vida dos seus modelos.
Importa porque a IA supón riscos concretos —sesgos discriminatorios, decisións opacas, fugas de datos ou usos malintencionados— que non se mitigan só con tecnoloxía. Unha boa governanza adoita articularse en torno a varios piares:
- Transparencia e explicabilidade dos sistemas e das súas decisións.
- Rendición de contas, asignando responsables claros.
- Xestión de riscos e cumprimento normativo.
- Equidade e protección de datos das persoas afectadas.
Na práctica, isto tradúcese en comités de ética, auditorías de modelos, documentación obrigatoria e clasificación dos sistemas segundo o seu nivel de risco, de xeito que as aplicacións de maior impacto reciban controis máis estritos antes do seu despregamento.