Reasoning Effort ist ein Schalter, der festlegt, wie viel Aufwand ein KI-Modell in eine Antwort steckt. Er wirkt auf alle erzeugten Token: auf den Antworttext, auf die Werkzeugaufrufe und auf das Nachdenken davor.
- Reasoning Effort
Ein Schalter, der festlegt, wie viel Aufwand ein KI-Modell in eine Antwort steckt.
Beispiel: „Für die Einsortierung eingehender Mails steht der Reasoning Effort auf der niedrigsten Stufe.“Auch: Denkaufwand. Der deutsche Ausdruck ist selten, in den Oberflächen steht der englische oder schlicht eine Stufenangabe.
Abgrenzung zur Temperature: Die Temperature bestimmt, wie weit das Modell von der wahrscheinlichsten Fortsetzung abweicht. Der Effort bestimmt, wie lange es überhaupt arbeitet. Beide Schalter wirken unabhängig voneinander.
Welche Stufen es gibt
Fünf, von sparsam bis unbegrenzt.
Die Dokumentation von Anthropic führt die Stufen low, medium, high, xhigh und max. Je nach Modell liegt die Voreinstellung bei high oder medium. Wichtig für das Verständnis ist dieser Satz daraus: Der Effort sei ein Verhaltenssignal und kein striktes Token-Budget. Auch auf niedriger Stufe denkt ein Modell bei schweren Aufgaben nach, nur kürzer.
Was die Stufe sonst noch ändert
Das Verhalten beim Einsatz von Werkzeugen. Auf niedrigen Stufen fasst ein Modell Schritte zusammen, ruft seltener auf und erklärt weniger. Auf hohen Stufen plant es vorher, ruft öfter auf und fasst hinterher zusammen. Wer einen Agenten baut und sich über zu knappe Arbeit wundert, findet die Ursache oft hier.
Wie man die Stufe wählt
An den eigenen Fällen und nicht nach Gefühl. Die Empfehlung in derselben Quelle lautet, die Stufe ausdrücklich zu setzen statt die Voreinstellung zu übernehmen, und sie je Aufgabenart zu bestimmen. Massenaufgaben vertragen die niedrige Stufe, schwierige Einzelfälle rechtfertigen die hohe, und dazwischen entscheidet die Messung.
Eine Warnung gibt dieselbe Quelle mit: Die Stufen sind zwischen Modellen nicht vergleichbar. Wer von einem Modell auf ein neueres wechselt, sollte die Messung wiederholen, statt die bisherige Einstellung zu übernehmen, weil dieselbe Stufe dort ein anderes Maß an Arbeit bedeuten kann.