Human on the Loop ist eine Aufsichtsform über automatisierte Abläufe, etwa über einen KI-Agenten: Ein Mensch beobachtet, was geschieht, und kann eingreifen oder abbrechen, ohne jeden einzelnen Schritt freizugeben. Das System arbeitet weiter, solange niemand widerspricht.
- Human on the Loop
Eine Aufsichtsform, bei der ein Mensch den Ablauf beobachtet und eingreifen kann, ohne jeden Schritt freizugeben.
Beispiel: „Beim Massenimport lief der Agent als Human on the Loop, mit einer Anzeige und einem Knopf zum Anhalten.“Abgrenzung zum Human in the Loop: Dort gibt ein Mensch jeden Schritt frei, und ohne ihn geht es nicht weiter. Hier ist er Beobachter mit Notbremse.
Die dritte Form heißt Human in Command: Der Mensch entscheidet über Einsatz und Abschaltung des Systems insgesamt, greift aber nicht in Einzelfälle ein.
Wo die Form passt
Bei vielen gleichartigen Vorgängen mit geringem Einzelrisiko. Zehntausend Produkttexte prüfen, Tickets vorsortieren, Bilder einordnen: Eine Freigabe je Fall wäre teurer als die Arbeit selbst, und ein Fehler in einem Fall ist verkraftbar. Hier ist Beobachtung mit Stichprobe die wirtschaftliche Form.
Wo sie nicht passt
Bei Entscheidungen mit Folgen für Einzelne. Eine Bewerbung, eine Kreditentscheidung, eine Kündigung, eine medizinische Einordnung: Dort ist der einzelne Fall das Risiko, und Beobachtung aus der Entfernung reicht nicht. Die europäische Regelung verlangt für Systeme mit hohem Risiko eine Aufsicht, die eingreifen kann und auch tatsächlich in der Lage dazu ist, siehe Human Oversight.
Was die Form voraussetzt
Eine Anzeige, die man wirklich liest, und eine Notbremse, die funktioniert. Beides fehlt häufiger als man denkt: Ein Protokoll, das niemand öffnet, ist keine Aufsicht, und ein Abbruch, der einen halb fertigen Zustand hinterlässt, wird nicht benutzt. Beides gehört vor dem ersten Lauf geprüft.
Was in der Praxis dabei schiefgeht
Die Gewöhnung. Nach zwei Wochen ohne Befund schaut niemand mehr hin, und genau dann kommt der Fall, auf den es ankommt. Gegenmittel sind Stichproben mit festem Takt und Meldungen nur bei Auffälligkeit, damit die Aufmerksamkeit nicht an Routinemeldungen verbraucht wird.