Cada vez que un agente de IA prepara un correo y espera a que alguien pulse «Enviar», hay detrás una idea con más de setenta años. Se llama HITLHuman in the Loop (HITL)Deseño no que unha persoa revisa ou aproba as accións relevantes dun sistema de IA antes de que teñan efecto, Human-In-The-Loop, «o humano dentro do bucle». Hoxe soa a xerga de intelixencia artificial, pero naceu na enxeñaría de control, entre servomecanismos, simuladores de voo e sistemas de defensa. Entender de onde vén axuda a entender por que importa tanto agora.
A palabra clave é «loop»
En teoría de control, un bucle (loop) é un circuíto pechado: o sistema actúa, mide o resultado e usa esa medida para corrixir a seguinte acción. É a retroalimentación (feedback), a mesma idea que fai que un termostato acenda ou apague a calefacción segundo a temperaturaTemperaturaParámetro que controla a creatividade fronte á precisión da IA que le.
Cando unha persoa forma parte activa dese circuíto, observando, interpretando e decidindo, dise que está in the loop, dentro do bucle. Non mira desde fóra: sen a súa decisión, o bucle non se pecha.
As raíces: a enxeñaría de control, dos anos 40 aos 60
A idea de estudar o ser humano como unha peza máis dun sistema de control é anterior á expresión. En 1947 o enxeñeiro británico Arnold Tustin publicou un traballo sobre como responde un operador que segue un blanco cun control manual, e describiuno coas mesmas ferramentas que se usaban para os servomecanismos. En 1948, Norbert Wiener popularizou con Cibernética a retroalimentación como principio común a máquinas e seres vivos. Nos anos 50 e 60, investigadores como Duane McRuer e Ezra Krendel construíron modelos matemáticos do piloto como parte do bucle de control do avión.
De aí saen dous usos que popularizaron a expresión:
- Simulación militar e aeronáutica. Na literatura de simuladores de voo e sistemas de armas fálase de man-in-the-loop simulation: simulacións nas que un operador humano toma decisións en tempo real dentro do sistema, en lugar de simulalo todo por ordenador.
- Sistemas semiautomáticos. A automatización fai parte do traballo, pero un operador supervisa ou aproba as accións críticas.
Cos anos, o man converteuse en human, e man-in-the-loop pasou a ser human-in-the-loop.
Non confundir con «hardware-in-the-loop»
En enxeñaría tamén existe hardware-in-the-loop (HIL): probar unha peza física real, por exemplo a centralita dun coche, conectada a un contorno simulado. A lóxica é a mesma, meter algo real dentro do bucle, pero o que se mete é un compoñente, non unha persoa.
Graos de automatización: canta decisión lle queda á persoa
En 1978, Thomas Sheridan e William Verplank, do MIT, propuxeron unha escala de niveis de automatización que vai desde «a persoa faino todo» ata «a máquina decide e actúa sen avisar a ninguén». Entre medio hai niveis intermedios, como que a máquina proponña opcións, que execute só se a persoa aproba, ou que actúe e logo informe. Esa escala é a base da conversa actual: non se trata de se hai automatización, senón de onde queda a persoa.
Adopción na IA e o machine learning, desde 2010 en diante
A comunidade de intelixencia artificial adoptou o termo para describir sistemas nos que unha persoa:
- Etiqueta datos que o modelo non sabe clasificar, como na aprendizaxe activa (active learning).
- Valida predicións antes de que teñan consecuencias.
- Corrixe erros para que o sistema aprenda deles.
A aprendizaxe por reforzo con retroalimentación humanaRLHFAprendizaxe por reforzo con retroalimentación humana, coa que se axustan os grandes modelos de linguaxe, é tamén unha forma de poñer a persoas dentro do bucle de adestramento. E a regulación recolleu a idea: o Regulamento Europeo de IA esixe supervisión humanaSupervisión humanaObrigación do Regulamento Europeo de IA de que persoas capacitadas poidan entender, vixiar e intervir nun sistema de IA nos sistemas de alto risco (artigo 14), algo que explicamos en AI Act: protege a túa empresa e cumpre a lei con NAiOS.
Dentro, sobre ou fóra do bucle
No debate sobre sistemas autónomos, sobre todo a partir de 2012 coa discusión internacional sobre armas autónomas, asentáronse tres expresións que hoxe se usan en calquera sector:
| Término | Qué significa |
|---|---|
| HITL, Human-In-The-Loop | A persoa participa activamente: o sistema non actúa sen a súa decisión. |
| HOTL, Human-On-The-Loop | O sistema actúa só e a persoa supervisa, con capacidade de intervir ou parar. |
| HOOTL, Human-Out-Of-The-Loop | O sistema opera de forma totalmente autónoma, sen intervención humana. |
Como se aplica en NAiOS
En NAiOS usamos as tres posicións, cada unha onde ten sentido, cunha regra que non se negocia: ler, buscar e preparar pode ser automático; actuar cara a fóra pide unha persoa.
Dentro do bucle, para todo o que ten efecto. Os axentes de NAiOS len, analizan e preparan traballo de forma autónoma, pero enviar un correo, publicar ou escribir nun servizo externo agarda sempre pola túa aprobación. En NAiOS Mail, responder, enviar ou reenviar require a túa confirmación explícita, tamén cando o propón un axente. En NAiOS Connectors, as accións con efectos deteñense nunha tarxeta que amosa o que se vai facer e con que conta. E no ERP, a emisión dunha factura sempre pide confirmación.
Sobre o bucle, cando ti o escolles. En Campañas, os recordatorios por data poden ir con «reviso cada envío», e entón cada un agarda pola túa aprobación, ou con aprobación automática dentro do horario da regra, e entón supervisas. O vixía de Campañas revisa as secuencias activas e avísate, pero nunca envía, aproba nin pausa por conta propia. En OmniChat, o axente responde só aos teus clientes e pausase automaticamente cando ti entras na conversa.
Fóra do bucle, só para ler. Resumir o correo da mañá, recompilar datos ou buscar na túa documentación pode facerse sen ninguén diante, porque non cambia nada fóra da túa conta.
Se queres levar esta forma de traballar ao resto da túa empresa, en Cómo convertir tu pyme en una empresa HITL contámolo paso a paso.
En resumo
- A palabra clave é loop, o bucle de control con retroalimentación.
- A nomenclatura describe onde se sitúa a persoa respecto ao circuito de decisión: dentro, sobre ou fóra.
- Nace na enxeñaría de control e a simulación dos anos 40 aos 60, co operador humano modelado como parte do sistema.
- A IA adoptouna para etiquetar, validar e corrixir, e a regulación europea converteuna en obrigación para os sistemas de alto risco.
- En NAiOS, a IA prepara e a persoa decide: todo o que actúa cara a fóra pasa por alguén.
