Human in the Loop (HITL, „Mensch im Regelkreis“) ist ein Designansatz für KI-Systeme, bei dem eine Person an den entscheidenden Beschlüssen beteiligt ist: Sie überprüft, korrigiert oder genehmigt eine Aktion, bevor diese wirksam wird. Der Begriff stammt aus der Regelungstechnik, wo eine menschliche Bedienperson Teil des Regelkreises einer Maschine ist, und wurde auf die KI übertragen, um Systeme zu beschreiben, die bei unumkehrbaren Prozessen nicht eigenständig handeln.
Dies ist nicht gleichbedeutend mit einer nachträglichen Überwachung. Bei einem HITL-System ist die Genehmigung Teil des Workflows: Der Agent bereitet die Abrechnung, den Versand oder die Datenänderung vor und hält inne, bis eine Freigabe erfolgt.
Was üblicherweise durch eine Person geprüft wird
- Unumkehrbare oder schwer rückgängig zu machende Aktionen: Löschen von Daten, Senden einer E-Mail oder einer Nachricht an Kundschaft, Abrechnen, ein Deployment in der Produktionsumgebung durchführen.
- Entscheidungen mit rechtlichen oder wirtschaftlichen Folgen: Annahme eines Kostenvoranschlags, Änderung einer Rechnung, Anpassung von Geschäftsbedingungen.
- Fälle mit geringem Vertrauenswert: wenn das Modell unsicher ist, Daten nicht übereinstimmen oder die Aktion vom Standard abweicht.
Warum es wichtig ist
Ein Agent verstärkt sowohl das Urteilsvermögen als auch die Fehler der Person, die ihn steuert. Die menschliche Freigabe ist keine Bremse für die Geschwindigkeit: Sie ist das, was es ermöglicht, viel zu delegieren, ohne die Verantwortung abzugeben. In der europäischen KI-Verordnung wird dieses Konzept als menschliche Aufsicht bezeichnet.
Bei NAiOS ist dies ein Produktprinzip: Die Agenten und Konnektoren schlagen die Aktion vor und führen sie erst nach der Genehmigung durch eine Person aus. Diese Freigabe kann direkt im Chat, über Talk oder im Modul selbst erfolgen.