La supervisión humana es el principio del Reglamento Europeo de IA (AI Act) según el cual los sistemas de IA deben estar diseñados para que personas capacitadas puedan entender lo que hacen, vigilar su funcionamiento e intervenir cuando haga falta. El artículo 14 lo exige expresamente a los sistemas de alto riesgo, y el espíritu se extiende a cualquier empresa que ponga agentes a actuar sobre clientes, dinero o datos.
Qué tiene que poder hacer quien supervisa
- Entender las capacidades y los límites del sistema, y detectar anomalías o resultados inesperados.
- No fiarse por inercia de lo que propone la máquina (el reglamento habla de evitar el «sesgo de automatización»).
- Interpretar correctamente la salida y decidir si se usa, se corrige o se descarta.
- Intervenir: detener el sistema, deshacer una acción o impedir que se ejecute.
Capacitación
Supervisar exige saber. Por eso el mismo reglamento, en su artículo 4, obliga a las empresas a garantizar la alfabetización en IA de las personas que operan estos sistemas: no se puede supervisar lo que no se entiende.
Relación con HITL
Human in the loop es la manera práctica de cumplirlo: poner la aprobación de una persona dentro del flujo de las acciones que importan, con permisos mínimos y límites explícitos para cada agente. La pregunta que resume ambas cosas es la misma: quién dirige al sistema, con qué permisos y con qué límites.