Ein Nutzungskontingent ist die Obergrenze dafür, wie viel ein KI-Dienst innerhalb eines Zeitraums bearbeitet. Gemessen wird meist in Token oder in Anfragen, der Zeitraum reicht von einer Minute bis zu einem Monat.
- Nutzungskontingent (KI-Dienste)
Die Obergrenze dafür, wie viel ein KI-Dienst innerhalb eines Zeitraums bearbeitet.
Beispiel: „Das Nutzungskontingent war nach zwei Stunden Arbeit mit großen Anhängen aufgebraucht.“Auch: Usage Limit oder schlicht Kontingent. In Pauschaltarifen taucht es als Grenze auf, bei der Abrechnung nach Verbrauch eher als Schutz gegen Ausreißer.
Abgrenzung zu den Inferenzkosten: Das Kontingent sagt, wie viel geht. Die Kosten sagen, was es kostet. Ein Pauschaltarif versteckt die Kosten hinter dem Kontingent, abschaffen tut er sie nicht.
Was es schneller aufbraucht, als man denkt
Lange Unterhaltungen, große Anhänge und Agenten. Weil bei jeder Frage der gesamte Chatverlauf erneut gezählt wird, verbraucht die zwanzigste Frage eines Gesprächs ein Vielfaches der ersten. Ein KI-Agent wiederum macht viele Schritte je Auftrag, und jeder zählt.
Wie man damit umgeht
Indem man die teuren Gewohnheiten kennt. Ein neues Gespräch für ein neues Thema, den Abschnitt statt des ganzen Handbuchs anhängen, für Massenaufgaben die kleinere Modellstufe: Jede dieser Gewohnheiten verlängert die Reichweite spürbar.
Warum es die Grenze überhaupt gibt
Weil Rechenleistung endlich ist. Hinter jeder Anfrage stehen Grafikkarten, die jemand bezahlt, und ein Kontingent verteilt diese Kapazität zwischen allen Nutzern. Bei Diensten mit Abrechnung nach Verbrauch dient es zusätzlich dem Schutz vor einer Rechnung, die durch einen Fehler im eigenen Programm entsteht.
Für die Planung ist die Unterscheidung der Zeiträume wichtiger als die Zahl. Ein Limit je Minute bremst Spitzen und ist mit Wartezeiten zu beheben. Ein Limit je Monat begrenzt die Gesamtmenge und zwingt zu einer Entscheidung darüber, welche Aufgaben es überhaupt wert sind.
Wer gegen eine Schnittstelle programmiert, baut die Grenze von vornherein ein: eine Wiederholung nach kurzer Wartezeit, eine Obergrenze je Durchlauf und eine Meldung, wenn beides nicht reicht. Ohne das bricht ein Massenlauf mitten im Bestand ab, und niemand weiß hinterher, welche Fälle erledigt sind.