LangChain ist ein Rahmenwerk für den Bau von Anwendungen mit Sprachmodellen. Es bündelt die wiederkehrenden Teile: Anbindung an Modelle, Abruf aus Dokumentbeständen, Werkzeugaufrufe, Gedächtnis über ein Gespräch hinweg.
- LangChain
Ein Rahmenwerk für den Bau von Anwendungen mit Sprachmodellen.
Beispiel: „Die erste Fassung der Wissensanwendung stand mit LangChain an einem Tag.“Was es abnimmt: Zerlegung von Dokumenten, Erzeugung und Ablage von Embeddings, Anbindung an eine Vektordatenbank, Aufbau von Abläufen aus mehreren Schritten.
Es ist in mehreren Programmiersprachen verfügbar und hat Nachahmer und Gegenentwürfe hervorgebracht; die Gattung heißt Orchestrierungsrahmen.
Wofür es sich lohnt
Für den schnellen Aufbau und für Abläufe mit vielen Bausteinen. Wer eine Wissensanwendung baut und nicht bei den Grundlagen anfangen will, kommt damit in Stunden zu einem laufenden Entwurf. Für Erprobung ist das der kürzeste Weg.
Wann man ohne auskommt
Bei einfachen Anwendungen. Eine Anfrage an ein Modell, ein Abruf aus einem Bestand und eine Antwort sind drei Aufrufe, und die schreibt man schneller selbst, als man die Abstraktionen eines Rahmenwerks lernt. In mehreren unserer Projekte ist das Rahmenwerk nach der Erprobung wieder herausgeflogen.
Was man dabei bedenken sollte
Die Abhängigkeit und das Tempo. Solche Rahmenwerke ändern sich schnell, und ein Programm von vor einem Jahr läuft mit der neuen Fassung oft nicht mehr. Wer darauf baut, plant Pflegeaufwand ein, und wer auf Dauer betreibt, prüft, ob die eigene Anwendung die Abstraktionen überhaupt braucht.
Woran man die Entscheidung festmacht
An der Zahl der Bausteine. Bei einem Abruf und einem Modellaufruf lohnt kein Rahmenwerk; bei mehreren Quellen, Werkzeugen und Zwischenschritten schon. Die Grenze liegt erfahrungsgemäß bei drei bis vier Bausteinen.