Human in the loop (HITL, «la persona en el circuito») es la forma de diseñar un sistema de IA en la que una persona participa en las decisiones que importan: revisa, corrige o aprueba antes de que una acción tenga efecto. El término viene de la ingeniería de control, donde un operador humano forma parte del lazo de regulación de una máquina, y pasó a la IA para describir los sistemas que no actúan solos en lo irreversible.
No es lo mismo que supervisar a posteriori. En un sistema HITL la aprobación está dentro del flujo: el agente prepara el cobro, el envío o el cambio de datos, y se detiene hasta que alguien dice que sí.
Qué suele pasar por una persona
- Acciones irreversibles o difíciles de deshacer: borrar datos, enviar un correo o un mensaje a un cliente, cobrar, desplegar en producción.
- Decisiones con consecuencias legales o económicas: aceptar un presupuesto, modificar una factura, cambiar condiciones.
- Casos de baja confianza: cuando el modelo duda, cuando los datos no cuadran o cuando la acción se sale de lo habitual.
Por qué importa
Un agente amplifica tanto el criterio como los errores de quien lo dirige. La aprobación humana no es un freno a la velocidad: es lo que permite delegar mucho sin delegar la responsabilidad. En el Reglamento Europeo de IA esta idea se recoge como supervisión humana.
En NAiOS es un principio de producto: los agentes y los conectores proponen la acción y la ejecutan solo con aprobación de una persona, que puede darse desde el chat, desde Talk o desde el propio módulo.