LoRA ist ein Verfahren, das ein fertiges Modell anpasst, ohne es selbst zu verändern. Die vorhandenen Gewichte bleiben eingefroren, trainiert wird nur ein kleiner Zusatz, der in jede Schicht eingehängt wird. Das macht aus einem Training, das ein Rechenzentrum braucht, eines, das auf einer einzelnen Grafikkarte läuft.
- LoRA (Low-Rank Adaptation)
Ein Verfahren, das ein Modell anpasst, indem es wenige zusätzliche Gewichte trainiert und das Modell selbst unverändert lässt.
Beispiel: „Der LoRA-Zusatz für unseren Tonfall ist 40 Megabyte groß, das Grundmodell bleibt, wie es war.“Die Zahlen aus der ursprünglichen Arbeit, gemessen am damals größten Sprachmodell: zehntausendmal weniger trainierbare Parameter und ein Drittel des Grafikspeichers gegenüber einem vollen Training.
Abgrenzung zum vollen Fine-Tuning: Dort ändern sich die Gewichte des Modells selbst, und das Ergebnis ist ein eigenes, vollständiges Modell. Bei LoRA entsteht eine kleine Zusatzdatei, die man auf- und wieder absetzen kann.
Was dabei genau passiert
Es wird nichts überschrieben, sondern etwas danebengelegt.
Die Arbeit LoRA: Low-Rank Adaptation of Large Language Models von Edward Hu und Kollegen aus dem Juni 2021 beschreibt das Vorgehen knapp: Die vortrainierten Gewichte werden eingefroren, und in jede Schicht der Transformer-Architektur kommen trainierbare Matrizen niedrigen Rangs hinzu. Niedriger Rang heißt dabei: wenige Zahlen, die zusammen trotzdem eine Wirkung über das ganze Modell entfalten.
Warum es sich durchgesetzt hat
Wegen der Zusatzdateien. Weil ein LoRA-Zusatz klein ist und das Grundmodell unberührt lässt, kann man mehrere davon vorhalten und je nach Aufgabe aufsetzen: einen für den Tonfall der Marke, einen für eine Bildsprache, einen für ein Fachgebiet. Bei der Bilderzeugung ist das heute der übliche Weg, einen bestimmten Stil für ein Diffusion Model verfügbar zu machen.
Wo die Grenzen liegen
Beim Wissen. LoRA verschiebt, wie ein Modell antwortet, und füllt keine Lücken in dem, was es kennt. Wer eigene Inhalte in den Antworten braucht, kommt mit RAG schneller und billiger ans Ziel. Und wie jedes Training fällt auch dieses bei jedem Wechsel des Grundmodells erneut an.