Jedes Mal, wenn ein KI-Agent eine E-Mail vorbereitet und darauf wartet, dass jemand auf „Senden“ klickt, steckt eine Idee dahinter, die über siebzig Jahre alt ist. Sie heißt HITLHuman in the Loop (HITL)Design, bei dem eine Person die relevanten Aktionen eines KI-Systems überprüft oder genehmigt, bevor sie wirksam werden, Human-In-The-Loop, „der Mensch im Loop“. Heute klingt es nach Fachjargon der künstlichen Intelligenz, aber es stammt aus der Regelungstechnik, zwischen Servomechanismen, Flugsimulatoren und Verteidigungssystemen. Zu verstehen, woher es kommt, hilft zu begreifen, warum es jetzt so wichtig ist.
Das Schlüsselwort ist „Loop“
In der Regelungstheorie ist ein Loop (loop) ein geschlossener Kreis: Das System agiert, misst das Ergebnis und verwendet diese Messung, um die nächste Aktion zu korrigieren. Es ist das Feedback, die gleiche Idee, die einen Thermostat dazu bringt, die Heizung je nach gemessener TemperaturTemperaturParameter zur Steuerung von Kreativität vs. Präzision der KI ein- oder auszuschalten.
Wenn eine Person aktiv Teil dieses Kreises ist, indem sie beobachtet, interpretiert und entscheidet, sagt man, sie ist in the loop, im Loop. Sie schaut nicht von außen zu: Ohne ihre Entscheidung schließt sich der Loop nicht.
Die Wurzeln: Regelungstechnik, von den 40er bis zu den 60er Jahren
Die Idee, den Menschen als ein weiteres Element eines Regelungssystems zu studieren, ist älter als der Ausdruck selbst. 1947 veröffentlichte der britische Ingenieur Arnold Tustin eine Arbeit darüber, wie ein Operator, der ein Ziel mit einer manuellen Steuerung verfolgt, reagiert, und beschrieb es mit denselben Werkzeugen, die für Servomechanismen verwendet wurden. 1948 popularisierte Norbert Wiener mit Cibernética das Feedback als gemeinsames Prinzip für Maschinen und Lebewesen. In den 50er und 60er Jahren entwickelten Forscher wie Duane McRuer und Ezra Krendel mathematische Modelle des Piloten als Teil des Regelkreises des Flugzeugs.
Von dort stammen zwei Verwendungen, die den Ausdruck popularisierten:
- Militärische und luftfahrttechnische Simulation. In der Literatur über Flugsimulatoren und Waffensysteme spricht man von man-in-the-loop simulation: Simulationen, in denen ein menschlicher Operator in Echtzeit Entscheidungen innerhalb des Systems trifft, anstatt alles am Computer zu simulieren.
- Halbautomatische Systeme. Die Automatisierung übernimmt einen Teil der Arbeit, aber ein Operator überwacht oder genehmigt die kritischen Aktionen.
Im Laufe der Jahre wurde man zu human, und man-in-the-loop wurde zu human-in-the-loop.
Nicht verwechseln mit «hardware-in-the-loop»
In der Ingenieurwissenschaft gibt es auch hardware-in-the-loop (HIL): das Testen eines realen physischen Teils, zum Beispiel des Steuergeräts eines Autos, das mit einer simulierten Umgebung verbunden ist. Die Logik ist dieselbe, etwas Reales in den Loop einzufügen, aber was eingefügt wird, ist ein Bauteil, keine Person.
Grade der Automatisierung: wie viel Entscheidung bleibt der Person
Im Jahr 1978 schlugen Thomas Sheridan und William Verplank vom MIT eine Skala der Automatisierungsgrade vor, die von „die Person macht alles“ bis „die Maschine entscheidet und handelt, ohne jemanden zu benachrichtigen“ reicht. Dazwischen gibt es Zwischenstufen, wie dass die Maschine Optionen vorschlägt, nur ausführt, wenn die Person zustimmt, oder handelt und dann informiert. Diese Skala ist die Grundlage der aktuellen Diskussion: es geht nicht darum, ob es Automatisierung gibt, sondern wo die Person bleibt.
Adoption in der KI und im maschinellen Lernen, ab 2010
Die Gemeinschaft der künstlichen Intelligenz übernahm den Begriff, um Systeme zu beschreiben, in denen eine Person:
- Daten etikettiert, die das Modell nicht klassifizieren kann, wie im aktiven Lernen (active learning).
- Vorhersagen validiert, bevor sie Konsequenzen haben.
- Fehler korrigiert, damit das System daraus lernt.
Das verstärkende Lernen mit menschlichem Feedback, mit dem die großen Sprachmodelle verfeinert werden, ist ebenfalls eine Möglichkeit, Menschen in den Trainingsloop einzubeziehen. Und die Regulierung hat die Idee aufgegriffen: die europäische KI-VerordnungAI Act (KI-Verordnung)Verordnung (EU) 2024/1689: das erste umfassende Gesetz über künstliche Intelligenz mit Verpflichtungen je nach Risikostufe verlangt menschliche AufsichtMenschliche AufsichtVerpflichtung aus der europäischen KI-Verordnung, dass qualifizierte Personen ein KI-System verstehen, beaufsichtigen und in dieses eingreifen können in Hochrisikosystemen (Artikel 14), was wir in AI Act: Schütze dein Unternehmen und halte das Gesetz ein erklären.
Innerhalb, über oder außerhalb des Loops
In der Debatte über autonome Systeme, insbesondere ab 2012 mit der internationalen Diskussion über autonome Waffen, haben sich drei Ausdrücke etabliert, die heute in jedem Sektor verwendet werden:
| Begriff | Was es bedeutet |
|---|---|
| HITL, Human-In-The-Loop | Die Person nimmt aktiv teil: Das System handelt nicht ohne ihre Entscheidung. |
| HOTL, Human-On-The-Loop | Das System handelt selbstständig und die Person überwacht, mit der Möglichkeit einzugreifen oder zu stoppen. |
| HOOTL, Human-Out-Of-The-Loop | Das System operiert völlig autonom, ohne menschliches Eingreifen. |
Wie es in NAiOS angewendet wird
In NAiOS verwenden wir die drei Positionen, jede dort, wo es Sinn macht, mit einer Regel, die nicht verhandelbar ist: lesen, suchen und vorbereiten kann automatisch sein; nach außen handeln erfordert eine Person.
Innerhalb des Kreises, für alles, was Wirkung hat. Die Agenten von NAiOS lesen, analysieren und bereiten Arbeiten autonom vor, aber das Versenden einer E-Mail, das Veröffentlichen oder das Schreiben in einen externen Dienst wartet immer auf deine Genehmigung. In NAiOS Mail erfordert das Antworten, Versenden oder Weiterleiten deine ausdrückliche Bestätigung, auch wenn es von einem Agenten vorgeschlagen wird. In NAiOS Connectors werden Aktionen mit Auswirkungen an einer Karte gestoppt, die zeigt, was getan werden soll und mit welchen Ressourcen. Und im ERP erfordert die Ausstellung einer Rechnung immer eine Bestätigung.
Über dem Kreis, wenn du es wählst. In Kampagnen können die Erinnerungen nach Datum mit „ich überprüfe jede Sendung“ versehen werden, und dann wartet jede auf deine Genehmigung, oder mit automatischer Genehmigung innerhalb der Regelzeit, und dann überwachst du. Der Wächter der Kampagnen überprüft die aktiven Sequenzen und informiert dich, aber sendet, genehmigt oder pausiert niemals eigenständig. In OmniChat antwortet der Agent nur deinen Kunden und pausiert automatisch, wenn du in das Gespräch eintrittst.
Außerhalb der Schleife, nur zum Lesen. Die E-Mail des Morgens zusammenfassen, Daten sammeln oder in deiner Dokumentation suchen, kann ohne jemanden davor erledigt werden, da sich außerhalb deines Kontos nichts ändert.
Wenn du diese Arbeitsweise in den Rest deines Unternehmens bringen möchtest, erklären wir in Wie man sein KMU in ein HITL-Unternehmen verwandelt Schritt für Schritt.
Zusammenfassung
- Das Schlüsselwort ist loop, die Steuerungsschleife mit Rückmeldung.
- Die Nomenklatur beschreibt wo sich die Person im Verhältnis zum Entscheidungsprozess befindet: innen, darüber oder außen.
- Entstand in der Regelungstechnik und Simulation der 40er bis 60er Jahre, wobei der menschliche Operator als Teil des Systems modelliert wurde.
- Die KI übernahm es, um zu kennzeichnen, zu validieren und zu korrigieren, und die europäische Regulierung hat es zur Pflicht für Hochrisikosysteme gemacht.
- In NAiOS bereitet die KI vor und die Person entscheidet: alles, was nach außen wirkt, geht durch jemanden.
