A supervisão humana é o princípio do Regulamento Europeu de IA (AI Act) segundo o qual os sistemas de IA devem ser concebidos para que pessoas capacitadas possam entender o que fazem, vigiar o seu funcionamento e intervir quando necessário. O artigo 14.º exige-o expressamente para os sistemas de alto risco, e o espírito estende-se a qualquer empresa que coloque agentes a atuar sobre clientes, dinheiro ou dados.
O que tem de poder fazer quem supervisiona
- Entender as capacidades e os limites do sistema, e detetar anomalias ou resultados inesperados.
- Não confiar por inércia no que a máquina propõe (o regulamento fala em evitar o «viés de automatização»).
- Interpretar corretamente a saída e decidir se é utilizada, corrigida ou descartada.
- Intervir: parar o sistema, desfazer uma ação ou impedir que seja executada.
Capacitação
Supervisionar exige saber. Por isso, o mesmo regulamento, no seu artigo 4.º, obriga as empresas a garantir a literacia em IA das pessoas que operam estes sistemas: não se pode supervisionar o que não se entende.
Relação com o HITL
Human in the loop é a forma prática de o cumprir: colocar a aprovação de uma pessoa dentro do fluxo das ações que importam, com permissões mínimas e limites explícitos para cada agente. A pergunta que resume ambas as coisas é la mesma: quem dirige o sistema, com que permissões e com que limites.