Output Filtering ist die Prüfung der Antwort eines KI-Modells, bevor sie weitergegeben wird. Geprüft wird dabei nicht die Qualität, sondern ob die Antwort etwas enthält, was sie nicht enthalten darf.
- Output Filtering (Ausgabefilterung)
Die Prüfung der Antwort eines KI-Modells, bevor sie weitergegeben wird.
Beispiel: „Das Output Filtering hielt die Antwort zurück, weil darin ein vollständiger Zugangsschlüssel stand.“Worauf geprüft wird: Zugangsdaten und Schlüssel, personenbezogene Angaben, interne Adressen, Links auf fremde Ziele, eingebettete Anweisungen für ein nachgelagertes System.
Gegenstück ist die Eingabeprüfung. Beide gehören zu den Guardrails, und beide wirken nur an der Stelle, an der sie sitzen.
Was sich zuverlässig prüfen lässt
Alles mit Form. Ein Schlüssel hat ein Muster, eine Kontonummer eine Prüfziffer, eine Adresse ein Schema. Solche Prüfungen sind billig, laufen in Millisekunden und greifen unabhängig davon, warum das Modell die Angabe ausgegeben hat. Für eine Anwendung mit Zugriff auf interne Daten ist das die wirksamste einzelne Maßnahme.
Was sich schlecht prüfen lässt
Alles mit Bedeutung. Ob eine Aussage falsch ist, ob ein Rat gefährlich wird, ob eine Formulierung eine Zusage darstellt: Dafür braucht es ein zweites Modell als Prüfer, und das hat dieselben Schwächen wie das erste. Solche Prüfungen senken die Quote und schaffen keine Sicherheit, und sie lassen sich mit etwas Mühe umgehen.
Wo der Filter sitzen muss
Hinter dem Modell und vor jedem Empfänger, auch vor einem technischen. Eine Antwort, die in einem Markup landet, kann dort Links oder eingebettete Bilder einbringen; eine Antwort, die weiterverarbeitet wird, kann Anweisungen für das nächste System enthalten. Wer nur die Anzeige für Menschen filtert, hat die interessanteren Wege offen gelassen, siehe Datenexfiltration.
Was ein Filter kosten darf
Wenig Zeit. Musterprüfungen laufen in Millisekunden und fallen nicht auf; ein zweites Modell als Prüfer verdoppelt die Wartezeit und die Kosten je Antwort. Wer bei laufender Ausgabe filtert, prüft außerdem auf Bruchstücken und muss entscheiden, ob er die Ausgabe anhält oder nachträglich zurücknimmt.