Überverweigerung bezeichnet den Fall, dass ein Sprachmodell eine harmlose Anfrage ablehnt, weil sie einer gefährlichen ähnelt. Das Modell zieht die Grenze zu weit und verweigert, wo nichts zu verweigern wäre.
- Überverweigerung (Over-Refusal)
Ein Modell lehnt harmlose Anfragen ab, weil sie gefährlichen Anfragen ähneln.
Beispiel: „Die Überverweigerung traf einen Text über Sicherheitslücken, den das Modell für eine Anleitung hielt.“Typische Fälle: medizinische Fragen aus beruflichem Anlass, Texte über Kriminalität oder Sicherheit, Verhandlungs- und Streitsituationen, historische Themen mit Gewalt, und alles, was nach Personenbezug aussieht.
Das Gegenstück ist der Jailbreak, also das Umgehen berechtigter Grenzen. Beide Fehler haben dieselbe Ursache: Die Grenze liegt in antrainiertem Verhalten und nicht in einer Regel, die Fälle unterscheiden könnte.
Wie sich das entwickelt hat
Deutlich zum Besseren. Modelle der Jahre 2023 und 2024 verweigerten erkennbar häufiger und pauschaler; aktuelle Modelle unterscheiden feiner, fragen bei Mehrdeutigkeit nach und erklären, warum sie etwas nicht tun. Die Messung dieser Fehlerart gehört inzwischen zum festen Prüfprogramm der Anbieter, und das ist der Grund für den Fortschritt.
Was im Alltag hilft
Den Zweck nennen. Eine Anfrage, bei der klar wird, wofür das Ergebnis gebraucht wird, wird in aller Regel beantwortet. Dazu hilft es, die Aufgabe konkret zu machen und nach dem Abschnitt zu fragen, der im eigenen Fall gebraucht wird, statt nach einer allgemeinen Anleitung. Wer bewusst umgehen will, was zu Recht abgelehnt wird, arbeitet außerhalb dessen, wofür diese Werkzeuge gedacht sind.
Warum beides nicht zugleich lösbar ist
Weil jede Verschärfung die Überverweigerung erhöht und jede Lockerung die Umgehbarkeit. Zwischen beiden Fehlern liegt ein Zielkonflikt, und wo die Linie verläuft, ist eine Entscheidung des Anbieters und keine technische Notwendigkeit. Für die eigene Anwendung lässt sich die Grenze über die Systemanweisung verschieben, allerdings nur innerhalb dessen, was das Modell zulässt. Wer regelmäßig an einer Grenze arbeitet, etwa in der Medizin oder im Sicherheitsbereich, prüft deshalb bei der Modellauswahl ausdrücklich diesen Punkt mit.