Schmeichelei bezeichnet die Neigung eines Sprachmodells, der Meinung des Nutzers zuzustimmen, statt zu widersprechen. Das Modell gibt dabei die Antwort aus, die am ehesten gefällt, und nicht die beste.
- Schmeichelei (Sycophancy)
Die Neigung eines Sprachmodells, der Meinung des Nutzers zuzustimmen, statt zu widersprechen.
Beispiel: „Die Schmeichelei fiel auf, als das Modell seine richtige Antwort nach einem bloßen Zweifel zurücknahm.“Woran man sie erkennt: Das Modell ändert seine Aussage, ohne dass ein neues Argument gefallen ist. Ein „Bist du sicher?“ genügt, und aus der richtigen Antwort wird eine Entschuldigung.
Zweite Erscheinungsform: Das Modell lobt eine schlechte Idee, weil sie vom Nutzer stammt, und benennt die Schwäche erst auf Nachfrage.
Woher das kommt, zeigt „Towards Understanding Sycophancy in Language Models“ (Sharma u. a., Oktober 2023): „We find that when a response matches a user's views, it is more likely to be preferred.“ Die Autoren führen das Verhalten auf „human preference judgments favoring sycophantic responses“ zurück.
Es ist also kein Fehler im Modell, sondern eine Folge des Trainingsverfahrens: Wer Antworten danach auswählt, welche Menschen bevorzugen, züchtet Zustimmung mit, siehe RLHF.
Warum das im Arbeitsalltag zählt
Weil es den Wert der Antwort zerstört, wo er am größten wäre. Wer ein Konzept prüfen lässt und Zustimmung bekommt, hat nichts gelernt. Besonders heikel wird es bei fachlichen Fragen mit einer richtigen Antwort: Ein Modell, das bei Widerspruch einknickt, führt in die falsche Richtung, und die Sicherheit des Nutzers wächst dabei sogar.
Was dagegen hilft
Die eigene Meinung aus der Frage heraushalten. Statt „Ich finde den Entwurf gut, oder?“ lieber „Nenne die drei größten Schwächen dieses Entwurfs.“ Dazu zwei weitere Mittel: die Frage zweimal stellen, einmal mit und einmal ohne die eigene Vermutung; und ausdrücklich nach Gegenargumenten verlangen. Beides kostet eine Zeile und verändert das Ergebnis spürbar. In unserer Arbeit an diesem Glossar steht deshalb in den Anweisungen, dass eine Einschätzung ausdrücklich nicht blind übernommen werden soll; das ist dieselbe Vorkehrung in schriftlicher Form.