Groq ist ein amerikanischer Hersteller von Chips für KI-Anwendungen, gegründet 2016 von Jonathan Ross, der bei Google an der Entwicklung der TPU beteiligt war. Der Sitz ist Mountain View in Kalifornien. Die Chips sind auf das Ausführen fertiger Modelle zugeschnitten, also auf den Betrieb und nicht auf die Ausbildung eines Modells.
- Groq
Ein amerikanischer Hersteller von Chips, die fertige KI-Modelle besonders schnell antworten lassen.
Beispiel: „Groq führte offene Modelle vor, die schneller antworteten, als ein Mensch liest.“Auch: Über die Plattform GroqCloud, gestartet im Februar 2024, lassen sich diese Chips mieten und offene Modelle darauf ansprechen.
Abgrenzung zu Grok mit k: Das ist der Chatdienst von SpaceX Super Intelligence, früher xAI. Die beiden Unternehmen haben nichts miteinander zu tun, und der Buchstabendreher sorgt seit 2023 für Verwechslungen.
Was eine LPU bei Groq leistet
Antworten statt Training. Die Language Processing Unit, kurz LPU, führt jede Rechnung in einer vom Übersetzer festgelegten Reihenfolge aus; es gibt keine Zwischenspeicher, deren Trefferquote die Laufzeit schwanken lässt. Für die Inferenz, also das Ausführen eines fertigen Modells, bringt das kurze und vor allem gleichmäßige Antwortzeiten.
Der Chip hieß zuerst Tensor Streaming Processor und bekam seinen heutigen Namen, als große Sprachmodelle zum Hauptanwendungsfall wurden. Für das Training bleiben Grafikkarten zuständig, die anders ausgelegt sind.
Wie Groq zu erreichen ist
Über GroqCloud. Die Plattform bietet eine Schnittstelle, über die sich offene Modelle auf den eigenen Chips ansprechen lassen, dazu einen Spielplatz zum Ausprobieren. Wer ein eigenes Modell betreibt, mietet Rechenzeit, statt Hardware zu kaufen; eigene Modelle trainiert das Unternehmen nicht.
Was der Vertrag mit Nvidia für Groq bedeutet
Ende Dezember 2025 hat Nvidia die Technik von Groq lizenziert, ohne exklusives Recht, und die Führung übernommen: Jonathan Ross und Sunny Madra wechseln zu Nvidia, Simon Edwards führt Groq weiter. CNBC nennt für den Vertrag rund 20 Milliarden Dollar; bestätigt sind die Konditionen nicht. Nvidia hält ausdrücklich fest, dass das Unternehmen als solches nicht gekauft wurde, und GroqCloud läuft weiter.