La supervisión humana es el principio del Reglamento Europeo de IA (AI Act) según el cual los sistemas de IA deben estar diseñados para que personas capacitadas puedan entender lo que hacen, vigilar su funcionamiento e intervenir cuando haga falta. El artículo 14 lo exige expresamente a los sistemas de alto riesgo, y el espírito se extiende a cualquier empresa que ponga agentes a actuar sobre clientes, cartos ou datos.
O que ten que poder facer quen supervisa
- Entender as capacidades e os límites do sistema, e detectar anomalías ou resultados inesperados.
- Non fiarse por inercia do que propón a máquina (o regulamento fala de evitar o «sesgo de automatización»).
- Interpretar correctamente a saída e decidir se se usa, se corrixe ou se descarta.
- Intervir: deter o sistema, desfacer unha acción ou impedir que se execute.
Capacitación
Supervisar exixe saber. Por iso o mesmo regulamento, no seu artigo 4, obriga ás empresas a garantir a alfabetización en IA das persoas que operan estes sistemas: non se pode supervisar o que non se entende.
Relación con HITL
Human in the loop é a maneira práctica de cumprilo: pór a aprobación dunha persoa dentro do fluxo das accións que importan, con permisos mínimos e límites explícitos para cada axente. A pregunta que resume ambas cousas é a mesma: quen dirixe ao sistema, con que permisos e con que límites.