Cada vegada que un agent d'IA prepara un correu i espera que algú premi «Envia», hi ha al darrere una idea amb més de setenta anys. S'anomena HITL, Human-In-The-Loop, «l'humà dins del bucle». Avui sona a argot d'intel·ligència artificial, però va néixer en l'enginyeria de control, entre servomecanismes, simuladors de vol i sistemes de defensa. Entendre d'on ve ajuda a entendre per què importa tant ara.
La paraula clau és «loop»
En teoria de control, un bucle (loop) és un circuit tancat: el sistema actua, mesura el resultat i utilitza aquesta mesura per corregir l'acció següent. És la retroalimentació (feedback), la mateixa idea que fa que un termòstat engegui o apagui la calefacció segons la temperaturaTemperaturaParàmetre que controla la creativitat vs. precisió de la IA que llegeix.
Quan una persona forma part activa d'aquest circuit, observant, interpretant i decidint, es diu que està in the loop, dins del bucle. No s'ho mira des de fora: sense la seva decisió, el bucle no es tanca.
Les arrels: l'enginyeria de control, dels anys 40 als 60
La idea d'estudiar l'ésser humà com una peça més d'un sistema de control és anterior a l'expressió. El 1947 l'enginyer britànic Arnold Tustin va publicar un treball sobre com respon un operador que segueix un blanc amb un control manual, i el va descriure amb les mateixes eines que s'utilitzaven per als servomecanismes. El 1948, Norbert Wiener va popularitzar amb Cibernètica la retroalimentació como a principi comú a màquines i éssers vius. Als anys 50 i 60, investigadors com Duane McRuer i Ezra Krendel van construir models matemàtics del pilot com a part del bucle de control de l'avió.
D'aquí surten dos usos que van popularitzar l'expressió:
- Simulació militar i aeronàutica. En la literatura de simuladors de vol i sistemes d'armes es parla de man-in-the-loop simulation: simulacions en què un operador humà pren decisions en temps real dins del sistema, en lloc de simular-ho tot per ordinador.
- Sistemes semiautomàtics. L'automatització fa part de la feina, però un operador supervisa o aprova les accions crítiques.
Amb els anys, el man es va convertir en human, i man-in-the-loop va passar a ser human-in-the-loop.
No confondre amb «hardware-in-the-loop»
En enginyeria també existeix hardware-in-the-loop (HIL): provar una peça física real, per exemple la centraleta d'un cotxe, connectada a un entorn simulat. La lògica és la mateixa, ficar una cosa real dins del bucle, però el que s'hi fica és un component, no una persona.
Graus d'automatització: quanta decisió li queda a la persona
El 1978, Thomas Sheridan i William Verplank, del MIT, van proposar una escala de nivells d'automatització que va des de «la persona ho fa tot» fins a «la màquina decideix i actua sense avisar ningú». Entremig hi ha nivells intermedis, com ara que la màquina proposi opcions, que executi només si la persona ho aprova, o que actuï i després n'informi. Aquesta escala és la base de la conversa actual: no es tracta de si hi ha automatització, sinó de on queda la persona.
Adopció en la IA i el machine learning, del 2010 en endavant
La comunitat d'intel·ligència artificial va adoptar el terme per descriure sistemes en què una persona:
- Etiqueta dades que el model no sap classificar, com en l'aprenentatge actiu (active learning).
- Valida prediccions abans que tinguin conseqüències.
- Corregeix errors perquè el sistema n'aprengui.
L'aprenentatge per reforç amb retroalimentació humanaRLHFAprenentatge per reforç amb retroalimentació humana, amb el qual s'afinen els grans models de llenguatge, és també una manera de posar persones dins del bucle d'entrenament. I la regulació ha recollit la idea: el Reglament Europeu de la Intel·ligència Artificial exigeix supervisió humana en els sistemes d'alt risc (article 14), un fet que expliquem a AI Act: protegeix la teva empresa i compleix la llei.
Dins, sobre o fora del bucle
En el debat sobre sistemes autònoms, sobretot a partir del 2012 amb la discussió internacional sobre armes autònomes, es van assentar tres expressions que avui s'utilitzen en qualsevol sector:
| Terme | Què significa |
|---|---|
| HITL, Human-In-The-Loop | La persona participa activament: el sistema no actua sense la seva decisió. |
| HOTL, Human-On-The-Loop | El sistema actua sol i la persona supervisa, amb capacitat d'intervenir o aturar-lo. |
| HOOTL, Human-Out-Of-The-Loop | El sistema opera de manera totalment autònoma, sense intervenció humana. |
Com s'aplica a NAiOS
A NAiOS utilitzem les tres posicions, cadascuna on té sentit, amb una regla que no es negocia: llegir, buscar i preparar pot ser automàtic; actuar cap enfora demana una persona.
Dins del bucle, per a tot el que té efecte. Els agents de NAiOS llegeixen, analitzen i preparen la feina de manera autònoma, pero enviar un correu, publicar o escriure en un servei extern espera sempre la teva aprovació. A NAiOS Mail, respondre, enviar o reenviar requereix la teva confirmació explícita, també quan ho proposa un agent. A NAiOS Connectors, les accions amb efectes s'aturen en una targeta que mostra què es farà i amb quin compte. I a l'ERP, l'emissió d'una factura sempre demana confirmació.
Sobre el bucle, quan tu ho tries. A Campañas, els recordatoris per data poden anar amb «reviso cada enviament», i llavors cadascun espera la teva aprovació, o amb aprovació automàtica dins de l'horari de la regla, i llavors supervises. El vigia de Campañas revisa les seqüències actives i t'avisa, però mai envia, aprova ni pausa pel seu compte. A OmniChat, l'agent respon sol als teus clients i es pausa automàticament quan tu entres a la conversa.
Fora del bucle, només per llegir. Resumir el correu del matí, recopilar dades o buscar en la teva documentació es pot fer sense ningú al davant, perquè no canvia res fora del teu compte.
Si vols portar aquesta manera de treballar a la resta de la teva empresa, a Com convertir la teva pime en una empresa HITL t'ho expliquem pas a pas.
En resum
- La paraula clau és loop, el bucle de control amb retroalimentació.
- La nomenclatura descriu on se situa la persona respecte al circuit de decisió: dins, sobre o fora.
- Neix en l'enginyeria de control i la simulació dels anys 40 a 60, amb l'operador humà modelat com a part del sistema.
- La IA la va adoptar per etiquetar, validar i corregir, i la regulació europea l'ha convertit en obligació per als sistemes d'alt risc.
- A NAiOS, la IA prepara i la persona decideix: tot el que actua cap enfora passa per algú.
