Open-Weight-Modelle sind KI-Modelle, deren trainierte Gewichte frei heruntergeladen werden können. Wer die Hardware hat, betreibt sie auf eigenen Rechnern, ohne dass eine Anfrage das Haus verlässt.
- Open-Weight-Modelle
KI-Modelle, deren trainierte Gewichte frei heruntergeladen und selbst betrieben werden können.
Beispiel: „Das Open-Weight-Modell läuft auf dem eigenen Server, die Patientendaten bleiben im Haus.“Abgrenzung zu Open Source: Offene Gewichte sind nicht dasselbe wie offene Quellen. Trainingsdaten, Trainingscode und die genauen Verfahren bleiben bei den meisten dieser Modelle unter Verschluss. Nachbauen kann sie niemand, benutzen und anpassen schon.
Die Lizenz entscheidet: Manche erlauben jede Nutzung, andere schließen bestimmte Einsatzzwecke oder Unternehmensgrößen aus. Vor dem Einsatz im Betrieb gehört sie gelesen.
Was sie erlauben
Drei Dinge, die bei geschlossenen Modellen ausgeschlossen sind. Der Betrieb im eigenen Netz, womit die Frage nach dem Datenabfluss entfällt. Die Anpassung mit eigenen Daten über Fine-Tuning oder LoRA. Und die Gewissheit, dass das Modell morgen noch da ist, weil es auf der eigenen Festplatte liegt.
Was sie kosten
Hardware und Aufmerksamkeit. Ein brauchbares Modell braucht Grafikkarten mit viel Speicher, und der Betrieb will überwacht, aktualisiert und abgesichert werden. Gerechnet auf die einzelne Anfrage ist der Einkauf über eine Schnittstelle bei kleinen Mengen fast immer günstiger.
Wann sie die richtige Wahl sind
Wenn Daten das Haus nicht verlassen dürfen, wenn die Menge so groß ist, dass sich eigene Hardware rechnet, oder wenn eine Anpassung nötig ist, die kein Anbieter mitmacht. In allen anderen Fällen ist der eingekaufte Zugang der kürzere Weg.
Was es praktisch heißt, ein solches Modell zu betreiben, zeigt die Dokumentation von Hugging Face: Dort wird ein Modell geladen, auf eine gewünschte Genauigkeit gebracht und auf der vorhandenen Grafikkarte ausgeführt. Der Weg ist in wenigen Zeilen beschrieben, die Hardware dahinter ist der eigentliche Aufwand.
Die zweite Rechnung ist die Pflege. Ein selbst betriebenes Modell bekommt keine Verbesserungen über Nacht, und der Wechsel auf einen neueren Stand ist jedes Mal ein eigenes Vorhaben.