Human in the Loop bezeichnet einen Ablauf, in dem ein Mensch an festgelegter Stelle prüft, entscheidet oder freigibt. Der KI-Agent arbeitet, der Mensch sitzt an einer bestimmten Stelle dazwischen, und ohne seine Freigabe geht es nicht weiter.
- Human in the Loop
Ein Ablauf, in dem ein Mensch an festgelegter Stelle prüft, entscheidet oder freigibt.
Beispiel: „Human in the Loop heißt hier: Der Agent schreibt die Antwort, abgeschickt wird sie von einem Menschen.“Drei Stufen, die oft verwechselt werden. In der Schleife: Ohne Freigabe geschieht nichts. Über der Schleife: Das System handelt, ein Mensch sieht zu und kann eingreifen. Außerhalb: Niemand schaut, es wird nachträglich geprüft.
Abgrenzung zur Stichprobe: Eine Stichprobe prüft hinterher einen Teil. Human in the Loop prüft vorher und jeden Fall, der die festgelegte Stelle erreicht.
Für Hochrisiko-Systeme ist die Aufsicht Pflicht. Artikel 14 der KI-Verordnung verlangt, dass solche Systeme „can be effectively overseen by natural persons during the period in which they are in use“, und nennt dazu konkrete Fähigkeiten: die Grenzen des Systems verstehen, die Ausgabe verwerfen oder umkehren können und den Betrieb über eine Schaltfläche anhalten können.
Warum die Verordnung die Selbstüberschätzung mitregelt
Artikel 14 verlangt ausdrücklich, dass die aufsichtführende Person sich der „possible tendency of automatically relying or over-relying on the output“ bewusst bleibt. Das beschreibt den eigentlichen Schwachpunkt: Eine Freigabestelle, an der jemand hundertmal am Tag dasselbe bestätigt, prüft nach kurzer Zeit nichts mehr. Die Pflicht steht also auf dem Papier, und die Wirkung hängt daran, wie die Stelle gebaut ist.
Wie man die Stelle richtig wählt
Dort, wo eine Handlung nach außen wirkt oder sich schwer zurücknehmen lässt. Eine Mail an einen Kunden, eine Zahlung, eine Veröffentlichung, eine Löschung. Alles davor läuft ohne Freigabe, weil jede zusätzliche Bestätigung die Aufmerksamkeit verdünnt. Wenige, gut gesetzte Freigabestellen wirken besser als viele, und sie brauchen genug Material für eine echte Entscheidung: den Entwurf, die Quelle und den Grund.