Llama ist die Modellreihe von Meta, dem Unternehmen hinter Facebook, Instagram und WhatsApp. Ihre Besonderheit ist, dass die Gewichte zum Herunterladen bereitstehen und sich auf eigener Hardware betreiben lassen.
- Llama (Meta)
Die Modellreihe von Meta, deren Gewichte unter einer eigenen Lizenz zum Herunterladen bereitstehen.
Beispiel: „Das Modell aus der Llama-Reihe lief auf einem Rechner im Haus, und keine Anfrage verließ das Netz.“Die Reihe hat die Verbreitung von Open-Weight-Modellen maßgeblich vorangetrieben; ein großer Teil der frei verfügbaren Modelle baut darauf auf.
Die Lizenz ist eine eigene und nicht eine der üblichen Lizenzen für freie Software. Sie enthält Einschränkungen, die vor einem gewerblichen Einsatz gelesen gehören.
Was die Lizenz erlaubt
Nutzung und Anpassung, mit Auflagen. Es gibt Pflichten zur Nennung, Bedingungen für sehr große Anbieter und Einschränkungen für bestimmte Verwendungen. Wer die Reihe in einem Kundenprojekt einsetzt, liest die Lizenz einmal und hält das Ergebnis in den Projektunterlagen fest.
Wofür sich die Reihe eignet
Für den Betrieb im eigenen Haus. Verarbeitung ohne Übertragung an einen Anbieter, keine laufenden Kosten je Anfrage, keine Abkündigung: Das sind die Gründe, aus denen sie in Projekten vorkommt. Die kleineren Ausführungen laufen auf überschaubarer Hardware und für umgrenzte Aufgaben gut genug.
Was dabei zu bedenken ist
Der Aufwand im Betrieb. Ein selbst betriebenes Modell braucht Hardware, Pflege, Überwachung und jemanden, der sich zuständig fühlt; die Rechnung geht erst ab einer gewissen Nutzungsmenge auf. Für den gelegentlichen Einsatz ist eine Schnittstelle günstiger, auch wenn das zunächst anders aussieht.
Warum die Reihe die Entwicklung geprägt hat
Weil sie offene Gewichte in brauchbarer Qualität verfügbar gemacht hat. Ein großer Teil der angepassten Modelle, der Werkzeugketten und der Forschung zu sparsamem Betrieb ist daran entstanden, und das wirkt unabhängig davon, wie die Reihe heute dasteht.