Human in the loop (HITL, « l'humain dans la boucle ») est une méthode de conception d'un système d'IA dans laquelle une personne participe aux décisions importantes : elle examine, corrige ou approuve avant qu'une action ne prenne effet. Le terme provient de l'ingénierie de contrôle, où un opérateur humain fait partie de la boucle de régulation d'une machine, et a été transposé à l'IA pour décrire les systèmes qui n'agissent pas seuls face à l'irréversible.
Ce n'est pas la même chose qu'une supervision a posteriori. Dans un système HITL, l'approbation se trouve au sein du flux : l'agent prépare l'encaissement, l'envoi ou la modification de données, et s'interrompt jusqu'à ce que quelqu'un donne son accord.
Ce qui passe généralement par une personne
- Les actions irréversibles ou difficiles à annuler : supprimer des données, envoyer un e-mail ou un message à un client, encaisser un paiement, déployer en production.
- Les décisions ayant des conséquences juridiques ou économiques : accepter un devis, modifier une facture, changer des conditions.
- Les cas de faible niveau de confiance : lorsque le modèle hésite, que les données ne concordent pas ou que l'action sort de l'ordinaire.
Pourquoi c'est important
Un agent amplifie aussi bien le discernement que les erreurs de la personne qui le dirige. L'approbation humaine n'est pas un frein à la rapidité : c'est ce qui permet de déléguer largement sans pour autant déléguer la responsabilité. Dans le règlement européen sur l'IA, cette idée est reprise sous le terme de contrôle humain.
Chez NAiOS, c'est un principe produit : les agents et les connecteurs proposent l'action et ne l'exécutent qu'avec l'approbation d'une personne, qui peut être donnée depuis le chat, depuis Talk ou depuis le module lui-même.