Chaque fois qu'un agent d'IA prépare un e-mail et attend que quelqu'un clique sur « Envoyer », il y a derrière une idée vieille de plus de soixante-dix ans. Elle s'appelle HITLHuman in the Loop (HITL)Conception dans laquelle une personne examine ou approuve les actions pertinentes d'un système d'IA avant qu'elles ne prennent effet, Human-In-The-Loop, « l'humain dans la boucle ». Aujourd'hui, cela ressemble à du jargon de l'intelligence artificielle, mais elle est née dans l'ingénierie de contrôle, parmi les servomécanismes, les simulateurs de vol et les systèmes de défense. Comprendre d'où elle vient aide à comprendre pourquoi elle est si importante aujourd'hui.
Le mot-clé est « loop »
En théorie du contrôle, une boucle (loop) est un circuit fermé : le système agit, mesure le résultat et utilise cette mesure pour corriger l'action suivante. C'est la rétroaction (feedback), la même idée qui fait qu'un thermostat allume ou éteint le chauffage selon la températureTempératureParamètre qui contrôle la créativité vs la précision de l'IA qu'il lit.
Lorsqu'une personne fait partie active de ce circuit, en observant, en interprétant et en décidant, on dit qu'elle est in the loop, dans la boucle. Elle ne regarde pas de l'extérieur : sans sa décision, la boucle ne se ferme pas.
Les racines : l'ingénierie de contrôle, des années 40 aux années 60
L'idée d'étudier l'être humain comme un élément supplémentaire d'un système de contrôle est antérieure à l'expression. En 1947, l'ingénieur britannique Arnold Tustin a publié un travail sur la manière dont répond un opérateur qui suit une cible avec une commande manuelle, et l'a décrit avec les mêmes outils que ceux utilisés pour les servomécanismes. En 1948, Norbert Wiener a popularisé avec La Cybernétique la rétroaction comme principe commun aux machines et aux êtres vivants. Dans les années 50 et 60, des chercheurs comme Duane McRuer et Ezra Krendel ont construit des modèles mathématiques du pilote en tant que partie de la boucle de contrôle de l'avion.
De là découlent deux usages qui ont popularisé l'expression :
- Simulation militaire et aéronautique. Dans la littérature des simulateurs de vol et des systèmes d'armes, on parle de man-in-the-loop simulation : des simulations dans lesquelles un opérateur humain prend des décisions en temps réel au sein du système, au lieu de tout simuler par ordinateur.
- Sistemas semiautomáticos. L'automatisation fait une partie du travail, mais un opérateur supervise ou approuve les actions critiques.
Au fil des ans, le terme man est devenu human, et man-in-the-loop est devenu human-in-the-loop.
Ne pas confondre con «hardware-in-the-loop»
En ingénierie, il existe également le hardware-in-the-loop (HIL) : tester une pièce physique réelle, par exemple le calculateur d'une voiture, connectée à un environnement simulé. La logique est la même, intégrer quelque chose de réel dans la boucle, mais ce que l'on y intègre est un composant, pas une personne.
Degrés d'automatisation : quelle part de décision reste-t-il à la personne
En 1978, Thomas Sheridan et William Verplank, du MIT, ont proposé une échelle de niveaux d'automatisation qui va de « la personne fait tout » à « la machine décide et agit sans prévenir personne ». Entre les deux, il existe des niveaux intermédiaires, comme le fait que la machine propose des options, qu'elle n'exécute que si la personne approuve, ou qu'elle agisse puis informe. Cette échelle est la base de la discussion actuelle : il ne s'agit pas de savoir s'il y a automatisation, mais de savoir où se situe la personne.
Adoption dans l'IA y el machine learning, à partir de 2010
La communauté de l'intelligence artificielle a adopté le terme pour décrire des systèmes dans lesquels une personne :
- Étiquette des données que le modèle ne sait pas classifier, comme dans l'apprentissage actif (active learning).
- Valide des prédictions avant qu'elles n'aient des conséquences.
- Corrige des erreurs pour que le système apprenne de celles-ci.
L'apprentissage par renforcement avec rétroaction humaine, qui permet d'affiner les grands modèles de langage, est également une manière de placer des personnes dans la boucle d'entraînement. Et la réglementation s'est emparée de l'idée : l'AI ActAI Act (règlement européen sur l'IA)Règlement (UE) 2024/1689 : la première législation complète sur l'intelligence artificielle, avec des obligations par niveau de risque européen exige une supervision humaineContrôle humainObligation du règlement européen sur l'IA selon laquelle des personnes qualifiées doivent pouvoir comprendre, surveiller et intervenir dans un système d'IA pour les systèmes à haut risque (article 14), ce que nous expliquons dans AI Act : protégez votre entreprise et respectez la loi.
Dans, sur ou hors de la boucle
Dans le débat sur les systèmes autonomes, notamment à partir de 2012 avec la discussion internationale sur les armes autonomes, trois expressions se sont imposées et sont aujourd'hui utilisées dans tous les secteurs :
| Terme | Signification |
|---|---|
| HITL, Human-In-The-Loop | La personne participe activement : le système n'agit pas sans sa décision. |
| HOTL, Human-On-The-Loop | Le système agit seul et la personne supervise, avec la capacité d'intervenir ou de l'arrêter. |
| HOOTL, Human-Out-Of-The-Loop | Le système fonctionne de manière totalement autonome, sans intervention humaine. |
Comment cela s'applique chez NAiOS
Chez NAiOS, nous utilisons les trois positions, chacune là où elle a du sens, avec une règle non négociable : lire, chercher et préparer peut être automatique ; agir vers l'extérieur exige une personne.
Dans la boucle, pour tout ce qui a un impact. Les agents de NAiOS lisent, analysent et préparent le travail de manière autonome, mais envoyer un e-mail, publier ou écrire sur un service externe attend toujours votre approbation. Dans NAiOS Mail, répondre, envoyer ou transférer nécessite votre confirmation explicite, y compris lorsque cela est proposé par un agent. Dans NAiOS Connectors, actions ayant des conséquences s'arrêtent sur une carte qui montre ce qui va être fait et avec quel compte. Et dans l'ERP, l'émission d'une facture demande toujours une confirmation.
Sur la boucle, quand vous le choisissez. Dans Campañas, les rappels par date peuvent être configurés avec « je vérifie chaque envoi », et chacun attend alors votre approbation, ou avec une approbation automatique selon les horaires de la règle, et vous supervisez alors. Le vigile de Campañas vérifie les séquences actives et vous alerte, mais il n'envoie, n'approuve ni ne suspend jamais rien de son propre chef. Dans OmniChat, l'agent répond seul à vos clients et se met automatiquement en pause lorsque vous entrez dans la conversation.
Hors de la boucle, uniquement pour lire. Résumer les e-mails du matin, collecter des données ou effectuer des recherches dans votre documentation peut se faire sans personne devant l'écran, car rien ne change en dehors de votre compte.
Si vous souhaitez étendre cette méthode de travail au reste de votre entreprise, nous vous expliquons comment faire étape par étape dans Comment transformer votre PME en une entreprise HITL.
En résumé
- Le mot-clé est loop, la boucle de contrôle avec rétroaction.
- La nomenclature décrit où se situe la personne par rapport au circuit de décision : dans, sur ou hors de celle-ci.
- Elle est née dans l'ingénierie de contrôle et la simulation des années 40 à 60, avec l'opérateur humain modélisé comme faisant partie intégrante du système.
- L'IA l'a adoptée pour étiqueter, valider et corriger, et la réglementation européenne en a fait une obligation pour les systèmes à haut risque.
- Chez NAiOS, l'IA prépare et la personne décide : tout ce qui a une action vers l'extérieur passe par quelqu'un.
