Granite ist die offene Modellreihe von IBM, zugeschnitten auf den Betrieb im Unternehmen. Die Modelle stehen unter der Apache-2.0-Lizenz und sind bewusst klein gehalten.
- Granite (IBM)
Die offene Modellreihe von IBM, zugeschnitten auf den Betrieb im Unternehmen.
Beispiel: „Für die Klassifizierung der Eingangspost lief Granite auf zwei eigenen Servern.“Üblich sind Größen von drei, acht und dreißig Milliarden Parametern, dazu eigene Modelle für Code und für Zeitreihen. Betrieben werden sie über vLLM, Ollama oder IBMs eigene Plattform watsonx.
Abgrenzung zu Llama: Diese Reihe ist größer und bekannter, steht aber unter einer eigenen Lizenz mit Bedingungen. Granite liegt unter Apache 2.0 und damit ohne Einschränkung für den gewerblichen Einsatz.
Was Granite für Unternehmen auszeichnet
Die Rechtslage. Apache 2.0 erlaubt den Einsatz ohne Rückfrage, und IBM gibt für die eigenen Modelle auf seiner Plattform eine Haftungsfreistellung gegenüber Ansprüchen Dritter, was in größeren Häusern die Frage der Rechtsabteilung beantwortet.
Dazu kommt die Offenlegung der Trainingsdaten, die IBM weiter treibt als die meisten Anbieter. Wer belegen muss, worauf ein Modell beruht, findet hier Material.
Welche Größen es gibt und was das bedeutet
Kleine. Die Reihe bewegt sich im Bereich weniger Milliarden Parameter und zielt damit auf Aufgaben, die eng umrissen sind: einsortieren, zusammenfassen, Felder lesen, Werkzeuge aufrufen.
Der Gewinn liegt im Betrieb. Ein Modell dieser Größe läuft auf einer einzelnen Grafikkarte, antwortet schnell und kostet im Dauerbetrieb einen Bruchteil der großen Reihen, siehe Parameteranzahl.
Für wen Granite in Frage kommt
Für Häuser, die im eigenen Haus betreiben müssen oder wollen: Verwaltung, Gesundheitswesen, Finanzdienstleister, Industrie. Dort zählt die Lizenz mehr als der letzte Platz in einer Rangliste.
Für eine Agentur mit wenigen Anfragen am Tag lohnt der eigene Betrieb nicht. Dort bleibt der Weg über eine gehostete Schnittstelle der günstigere, siehe Open-Weight-Modelle.