Human in the loop (HITL, «a persoa no circuíto») é a forma de deseñar un sistema de IA na que unha persoa participa nas decisións que importan: revisa, corrixe ou aproba antes de que unha acción teña efecto. O termo vén da enxeñaría de control, onde un operador humano forma parte do lazo de regulación dunha máquina, e pasou á IA para describir os sistemas que non actúan sós no irreversible.
Non é o mesmo que supervisar a posteriori. Nun sistema HITL a aprobación está dentro do fluxo: o axente prepara o cobro, o envío ou o cambio de datos, e detense ata que alguén di que si.
Que adoita pasar por unha persoa
- Accións irreversibles ou difíciles de desfacer: borrar datos, enviar un correo ou unha mensaxe a unha cliente, cobrar, despregar en produción.
- Decisións con consecuencias legais ou económicas: aceptar un orzamento, modificar unha factura, cambiar condicións.
- Casos de baixa confianza: cando o modelo dubida, cando os datos non cadran ou cando a acción se sae do habitual.
Por que importa
Un axente amplifica tanto o criterio como os erros de quen o dirixe. A aprobación humana non é un freo á velocidade: é o que permite delegar moito sen delegar a responsabilidade. No Regulamento Europeo de IA esta idea recóllese como supervisión humana.
En NAiOS é un principio de produto: os axentes e os conectores propoñen a acción e execútana só con aprobación dunha persoa, que pode darse desde o chat, desde Talk ou desde o propio módulo.