Function Calling ist das Verfahren, mit dem ein Sprachmodell einen Programmaufruf anfordert. Das Modell bekommt eine Liste verfügbarer Werkzeuge, entscheidet anhand der Frage, ob eines davon passt, und gibt einen strukturierten Aufruf samt Werten zurück. Ausgeführt wird er von der Anwendung.
- Function Calling
Das Verfahren, mit dem ein Sprachmodell einen Programmaufruf anfordert, den die Anwendung dann ausführt.
Beispiel: „Über Function Calling holt sich der Assistent den Lagerbestand aus der Warenwirtschaft, statt ihn zu schätzen.“Auch: Tool Use, Werkzeugaufruf, Tool Call. Anthropic setzt beide Hauptbegriffe im ersten Satz der Dokumentation gleich; Tool Use ist der neuere, Function Calling der ältere Name.
Aufbau einer Werkzeugbeschreibung: ein Name, eine Beschreibung in Prosa und ein Schema der erwarteten Werte. Die Beschreibung ist der Teil, den das Modell liest, wenn es entscheidet, ob das Werkzeug zur Frage passt.
Wie der Umlauf abläuft
In vier Schritten, von denen einer bei dir liegt.
Die Dokumentation zum Tool Use beschreibt ihn so: Das Modell antwortet mit einem Aufrufblock, der Name und Werte enthält, die eigene Anwendung führt den Aufruf aus und schickt das Ergebnis in einem zweiten Block zurück, und erst daraus entsteht die Antwort an den Nutzer. Das Modell selbst hat keinen Zugriff auf Datenbank, Dateisystem oder Netz.
Warum die Beschreibung entscheidet
Weil sie die einzige Grundlage ist, auf der das Sprachmodell wählt. Ein Werkzeug mit dem Namen „abfrage“ und der Beschreibung „fragt Daten ab“ wird entweder nie oder ständig aufgerufen. Wer dagegen hinschreibt, welche Daten in welcher Form zurückkommen und wann das Werkzeug gemeint ist, bekommt verlässliche Aufrufe.
Was es kostet
Die Werkzeugliste steht bei jeder Anfrage im Prompt und kostet entsprechend Token. Dazu kommt ein Zuschlag für die Umschaltung selbst, laut Dokumentation je nach Modell zwischen 286 und 675 Token. Zwanzig Werkzeuge mitzuschleppen, von denen zwei gebraucht werden, kostet deshalb bei jeder einzelnen Anfrage mit.