Human in the loop (HITL, "a pessoa no circuito") é a forma de desenhar um sistema de IA na qual uma pessoa participa nas decisões que importan: revê, corrige ou aprova antes de uma ação ter efeito. O termo provém da engenharia de controlo, onde um operador humano faz parte do laço de regulação de uma máquina, e passou para a IA para descrever os sistemas que não atuam sozinhos no que é irreversível.
Não é o mesmo que supervisionar a posteriori. Num sistema HITL, a aprovação está dentro do fluxo: o agente prepara a cobrança, o envio ou a alteração de dados, e para até que alguém diga que sim.
O que costuma passar por uma pessoa
- Ações irreversíveis ou difíceis de reverter: eliminar dados, enviar um e-mail ou uma mensagem a um cliente, cobrar, implementar em produção.
- Decisões com consequências legais ou económicas: aceitar um orçamento, modificar uma fatura, alterar condições.
- Casos de baixa confiança: quando o modelo hesita, quando os dados não batem certo ou quando a ação sai do habitual.
Porque é que importa
Um agente amplifica tanto o critério como os erros de quem o dirige. A aprovação humana não é um travão à velocidade: é o que permite delegar muito sem delegar a responsabilidade. No Regulamento europeu de IA esta ideia é acolhida como supervisão humana.
Na NAiOS é um princípio de produto: os agentes e os conectores propõem a ação e executam-na apenas com a aprovação de uma pessoa, que pode ser dada a partir do chat, do Talk ou do próprio módulo.