Human in the loop (HITL, «la persona en el circuit») és la manera de dissenyar un sistema d'IA en què una persona participa en les decisions que importan: revisa, corregeix o aprova abans que una acció tingui efecte. El terme prové de l'enginyeria de control, on un operador humà forma part del llaç de regulació d'una màquina, i va passar a la IA per descriure els sistemes que no actuen sols en allò irreversible.
No és el mateix que supervisar a posteriori. En un sistema HITL l'aprovació és dins del flux: l'agent prepara el cobrament, l'enviament o el canvi de dades, i s'atura fins que algú diu que sí.
Què sol passar per una persona
- Accions irreversibles o difícils de desfer: esborrar dades, enviar un correu o un missatge a un client, cobrar, desplegar a producció.
- Decisions amb conseqüències legals o econòmiques: acceptar un pressupost, modificar una factura, canviar condicions.
- Casos de baixa confiança: quan el model dubta, quan les dades no quadren o quan l'acció surt de l'habitual.
Per què importa
Un agent amplifica tant el criteri com els errors de qui el dirigeix. L'aprovació humana no és un fre a la velocitat: és el que permet delegar molt sense delegar la responsabilitat. Al Reglament europeu d'IA aquesta idea es recull com a supervisió humana.
A NAiOS és un principi de producte: els agents i els connectors proposen l'acció i l'executen només amb l'aprovació d'una persona, que es pot donar des del xat, des de Talk o des del propi mòdul.