Ein Konversationszug ist ein Wechsel aus Eingabe und Antwort in einem Gespräch mit einem KI-System. Er ist die Einheit, in der Gespräche gezählt, abgerechnet und begrenzt werden.
- Konversationszug (Turn)
Ein Wechsel aus Eingabe und Antwort in einem Gespräch mit einem KI-System.
Beispiel: „Nach zwölf Konversationszügen war das Kontextfenster zur Hälfte mit Vorgeschichte gefüllt.“Warum die Zahl zählt: Bei jedem Zug wird die gesamte bisherige Vorgeschichte mitgeschickt. Das zwanzigste Mal kostet deshalb ein Vielfaches des ersten.
In Werkzeugen steht meist der englische Begriff Turn, auch in deutschsprachigen Oberflächen und Abrechnungen.
Was die Zahl der Züge mit der Qualität macht
Sie verschlechtert sie nach einer Weile. Je länger ein Gespräch, desto mehr Vorgeschichte steht im Kontext, und desto eher übergeht das Modell Angaben aus der Mitte. Dazu kommt, dass frühe Festlegungen weiterwirken, auch wenn sie längst überholt sind. Ab einer gewissen Länge ist ein neues Gespräch besser als ein weiterer Zug.
Was das für Anwendungen bedeutet
Eine Entscheidung über die Vorgeschichte. Entweder wird alles mitgeschickt, dann steigen Kosten und Wartezeit stetig; oder es wird verdichtet, dann gehen Angaben verloren; oder es wird nach einer festen Zahl von Zügen abgeschnitten. Alle drei sind vertretbar, und die Wahl gehört in die Projektunterlagen.
Wo der Begriff in der Abrechnung auftaucht
In Kontingenten und Obergrenzen. Dienste rechnen in Nachrichten, in Zügen oder in verbrauchten Einheiten ab, und die Begriffe werden nicht einheitlich verwendet. Vor einem Vertrag lohnt die Rückfrage, was genau gezählt wird, denn zwischen einer Nachricht und einem vollständigen Wechsel liegt in der Rechnung ein Faktor.
Was bei Agenten anders ist
Dort zählt nicht der Zug, sondern die Schleife. Ein Agent führt zwischen zwei menschlichen Eingaben dutzende eigene Schritte aus, und jeder davon ist ein Modellaufruf. Wer Kosten schätzt, zählt deshalb Schritte und nicht Gesprächswechsel, siehe Kosten je Aufgabe.
Was sich daraus für die Gestaltung ergibt
Dass kurze Gespräche besser laufen als lange. Eine Oberfläche, die nach einem erledigten Anliegen ein neues Gespräch anbietet, hilft Nutzern und senkt Kosten zugleich. Das klingt nach einem Verlust an Bequemlichkeit und ist in der Wirkung das Gegenteil.