Sempre que um agente de IA prepara um e-mail e espera que alguém clique em «Enviar», há por trás uma ideia com mais de setenta anos. Chama-se HITLHuman in the Loop (HITL)Design no qual uma pessoa revê ou aprova as ações relevantes de um sistema de IA antes de estas terem efeito, Human-In-The-Loop, «o humano dentro do circuito». Hoje soa a jargão de inteligência artificial, mas nasceu na engenharia de controlo, entre servomecanismos, simuladores de voo e sistemas de defesa. Entender de onde vem ajuda a compreender por que razão importa tanto agora.
A palavra-chave é «loop»
Em teoria de controlo, um circuito (loop) é um circuito fechado: o sistema atua, mede o resultado e utiliza essa medição para corrigir a ação seguinte. É a retroalimentação (feedback), a mesma ideia que faz com que um termóstato ligue ou desligue o aquecimento segundo a temperaturaTemperaturaParâmetro que controla a criatividade vs. precisão da IA que lê.
Quando uma pessoa faz parte ativa desse circuito, observando, interpretando e decidindo, diz-se que está in the loop, dentro do circuito. Não observa de fora: sem a sua decisão, o circuito não se fecha.
As raízes: a engenharia de controlo, dos anos 40 aos 60
A ideia de estudar o ser humano como mais uma peça de um sistema de controlo é anterior à expressão. Em 1947, o engenheiro britânico Arnold Tustin publicou um trabalho sobre como responde um operador que segue um alvo com um controlo manual, e descreveu-o com as mesmas ferramentas que se usavam para os servomecanismos. Em 1948, Norbert Wiener popularizou com Cibernética a retroalimentação como princípio comum a máquinas e seres vivos. Nos anos 50 e 60, investigadores como Duane McRuer e Ezra Krendel construíram modelos matemáticos do piloto como parte do circuito de controlo do avião.
Daí surgem dois usos que popularizaron a expressão:
- Simulação militar e aeronáutica. Na literatura de simuladores de voo e sistemas de armas fala-se de man-in-the-loop simulation: simulações em que um operador humano toma decisões em tempo real dentro do sistema, em vez de simular tudo por computador.
- Sistemas semiautomáticos. A automatização faz parte do trabalho, mas um operador supervisiona ou aprova as ações críticas.
Com os anos, o man converteu-se em human, e man-in-the-loop passou a ser human-in-the-loop.
Não confundir con «hardware-in-the-loop»
Na engenharia também existe o hardware-in-the-loop (HIL): testar uma peça física real, por exemplo a unidade de controlo de um automóvel, ligada a um ambiente simulado. A lógica é la mesma, colocar algo real dentro do circuito, mas o que se coloca é um componente, não uma pessoa.
Graus de automatización: quanta decisão resta à pessoa
Em 1978, Thomas Sheridan e William Verplank, do MIT, propuseram uma escala de níveis de automatização que vai desde «a pessoa faz tudo» até «a máquina decide e atua sem avisar ninguém». Pelo meio existem níveis intermédios, como a máquina propor opções, executar apenas se a pessoa aprovar, ou atuar e depois informar. Essa escala é a base da conversa atual: não se trata de saber se há automatização, mas sim onde fica a pessoa.
Adoção na IA e no machine learning, de 2010 em diante
A comunidade de inteligência artificial adotou o termo para descrever sistemas nos quais uma pessoa:
- Etiqueta dados que o modelo não sabe classificar, como na aprendizagem ativa (active learning).
- Valida previsões antes de terem consequências.
- Corrige erros para que o sistema aprenda com eles.
A aprendizagem por reforço com retroalimentação humana, com a qual se afinam os grandes modelos de linguagem, é também uma forma de colocar pessoas dentro do circuito de treino. E a regulação acolheu a ideia: o Regulamento Europeu da IA exige supervisão humanaSupervisão humanaObrigação do Regulamento Europeu de IA de que pessoas capacitadas possam entender, vigiar e intervir num sistema de IA nos sistemas de alto risco (artigo 14.º), algo que explicamos em AI Act: proteja a sua empresa e cumpra a lei.
Dentro, sobre ou fora do circuito
No debate sobre sistemas autónomos, sobretudo a partir de 2012 com a discussão internacional sobre armas autónomas, estabeleceram-se três expressões que hoje são usadas em qualquer setor:
| Termo | O que significa |
|---|---|
| HITL, Human-In-The-Loop | A pessoa participa ativamente: o sistema não atua sem a sua decisão. |
| HOTL, Human-On-The-Loop | O sistema atua sozinho e a pessoa supervisiona, com capacidade de intervir ou parar. |
| HOOTL, Human-Out-Of-The-Loop | O sistema opera de forma totalmente autónoma, sem intervenção humana. |
Como se aplica no NAiOS
No NAiOS usamos as três posições, cada uma onde faz sentido, com uma regra não negociável: ler, pesquisar e preparar pode ser automático; agir para o exterior exige uma pessoa.
Dentro do circuito, para tudo o que tem efeito. Os agentes do NAiOS leem, analisam e preparam o trabalho de forma autónoma, mas enviar um e-mail, publicar ou escrever num serviço externo aguarda sempre a sua aprovação. No NAiOS Mail, responder, enviar ou reencaminhar exige a sua confirmação explícita, mesmo quando é proposto por um agente. No NAiOS Connectors, as ações com efeitos param num cartão que mostra o que vai ser feito e com que conta. E no ERP, a emissão de uma fatura pede sempre confirmação.
Sobre o circuito, quando o escolhe. Em Campañas, os lembretes por data podem ir com «revejo cada envio», e nesse caso cada um aguarda a sua aprovação, ou com aprovação automática dentro do horário da regra, e nesse caso apenas supervisiona. O vigia do Campañas revê as sequências ativas e avisa-o, mas nunca envia, aprova nem pausa por sua conta. No OmniChat, o agente responde sozinho aos seus clientes e pausa automaticamente quando entra na conversa.
Fora do circuito, apenas para ler. Resumir o e-mail da manhã, recolher dados ou pesquisar na sua documentação pode ser feito sem ninguém presente, porque nada se altera fora da sua conta.
Si quiser levar esta forma de trabalhar ao resto da sua empresa, em Como converter a sua PME numa empresa HITL explicamos passo a passo.
Em resumo
- La palavra-chave é loop, o circuito de controlo com retroalimentação.
- A nomenclatura descreve onde se situa a pessoa em relação ao circuito de decisão: dentro, sobre ou fora.
- Nasce na engenharia de controlo e na simulação dos anos 40 a 60, com o operador humano modelado como parte do sistema.
- A IA adotou-a para etiquetar, validar e corrigir, e a regulação europeia transformou-a numa obrigação para os sistemas de alto risco.
- No NAiOS, a IA prepara e a pessoa decide: tudo o que atua para o exterior passa por alguém.
