Kosten je Aufgabe ist bei KI-Agenten der Betrag, den ein Agent für einen vollständigen Arbeitsauftrag verbraucht, über alle Schritte und Modellaufrufe hinweg. Es ist die einzige Größe, mit der sich ein Agent gegen eine menschliche Arbeitsstunde rechnen lässt.
- Kosten je Aufgabe (KI-Agent)
Der Betrag, den ein KI-Agent für einen vollständigen Arbeitsauftrag verbraucht.
Beispiel: „Die Kosten je Aufgabe lagen bei 0,40 Euro, bei schwierigen Tickets beim Zehnfachen.“Was darin steckt: alle Modellaufrufe der Schleife, die wiederholt mitgesendete Vorgeschichte, die Ausgaben der Werkzeuge und die Fehlversuche. Der letzte Posten ist der am häufigsten vergessene.
Die Verteilung ist schief. Der Mittelwert sagt wenig; entscheidend sind der häufigste Fall und der teuerste, denn an dem hängt die Obergrenze.
Warum der Token-Preis die falsche Größe ist
Weil ein Agent nicht einmal fragt, sondern dreißigmal. Jeder Schritt schickt die Vorgeschichte mit, und die wächst; bei einem Lauf über zwanzig Schritte ist der Verbrauch deshalb nicht zwanzigfach, sondern eher hundertfach gegenüber einer einzelnen Frage. Ein Vergleich von Token-Preisen zwischen Anbietern sagt darum nichts über die Kosten eines Agenten.
Was den Wert am stärksten senkt
Ein kleineres Modell für die einfachen Schritte und ein Abbruch bei Erfolg. Viele Läufe arbeiten weiter, obwohl die Aufgabe erledigt ist, weil kein Abbruchkriterium gesetzt ist. Danach kommen kürzere Vorgeschichte und ein Zwischenspeicher für den festen Teil der Anweisung.
Wie wir damit kalkulieren
Mit einem Messlauf über fünfzig echte Fälle, nicht mit einer Schätzung. Daraus ergeben sich der häufigste Fall, der teuerste und eine Obergrenze je Lauf, die hart gesetzt wird, siehe Token-Budget. Erst dann steht ein Preis im Angebot, und erst dann lässt sich sagen, ob die Automatisierung sich gegen die Handarbeit rechnet.
Was im Angebot stehen muss
Eine Obergrenze je Lauf und die Antwort auf die Frage, was bei Erreichen passiert. Bricht der Agent ab, übergibt er an einen Menschen, oder läuft er weiter? Ohne diese Festlegung steht am Monatsende eine Rechnung, die niemand erwartet hat, und der häufigste Grund dafür ist eine Schleife, die nicht beendet wurde.