Zum Inhalt springen

Groq

oder auch LPU, Language Processing Unit

Männliche Person, frontal, schaut in die Kamera; trägt kariertes Hemd über dunkelfarbigem T‑Shirt; heller Innenraum mit unscharfem Monitor oder Poster links und Fenster rechts.

von Richard Albrecht am 04.11.2026

Groq ist ein amerikanischer Hersteller von Chips für KI-Anwendungen, gegründet 2016 von Jonathan Ross, der bei Google an der Entwicklung der TPU beteiligt war. Der Sitz ist Mountain View in Kalifornien. Die Chips sind auf das Ausführen fertiger Modelle zugeschnitten, also auf den Betrieb und nicht auf die Ausbildung eines Modells.

Groq

Ein amerikanischer Hersteller von Chips, die fertige KI-Modelle besonders schnell antworten lassen.
Beispiel: „Groq führte offene Modelle vor, die schneller antworteten, als ein Mensch liest.“

Auch: Über die Plattform GroqCloud, gestartet im Februar 2024, lassen sich diese Chips mieten und offene Modelle darauf ansprechen.

Abgrenzung zu Grok mit k: Das ist der Chatdienst von SpaceX Super Intelligence, früher xAI. Die beiden Unternehmen haben nichts miteinander zu tun, und der Buchstabendreher sorgt seit 2023 für Verwechslungen.

Was eine LPU bei Groq leistet

Antworten statt Training. Die Language Processing Unit, kurz LPU, führt jede Rechnung in einer vom Übersetzer festgelegten Reihenfolge aus; es gibt keine Zwischenspeicher, deren Trefferquote die Laufzeit schwanken lässt. Für die Inferenz, also das Ausführen eines fertigen Modells, bringt das kurze und vor allem gleichmäßige Antwortzeiten.

Der Chip hieß zuerst Tensor Streaming Processor und bekam seinen heutigen Namen, als große Sprachmodelle zum Hauptanwendungsfall wurden. Für das Training bleiben Grafikkarten zuständig, die anders ausgelegt sind.

Wie Groq zu erreichen ist

Über GroqCloud. Die Plattform bietet eine Schnittstelle, über die sich offene Modelle auf den eigenen Chips ansprechen lassen, dazu einen Spielplatz zum Ausprobieren. Wer ein eigenes Modell betreibt, mietet Rechenzeit, statt Hardware zu kaufen; eigene Modelle trainiert das Unternehmen nicht.

Was der Vertrag mit Nvidia für Groq bedeutet

Ende Dezember 2025 hat Nvidia die Technik von Groq lizenziert, ohne exklusives Recht, und die Führung übernommen: Jonathan Ross und Sunny Madra wechseln zu Nvidia, Simon Edwards führt Groq weiter. CNBC nennt für den Vertrag rund 20 Milliarden Dollar; bestätigt sind die Konditionen nicht. Nvidia hält ausdrücklich fest, dass das Unternehmen als solches nicht gekauft wurde, und GroqCloud läuft weiter.

Siehe auch:

Grok

Die Modellreihe und der Chatdienst des Unternehmens hinter dem Netzwerk X, mit Zugriff auf dessen Beiträge.

#Künstliche Intelligenz (KI)

Inferenz

Der Vorgang, bei dem ein fertig trainiertes KI-Modell eine einzelne Anfrage beantwortet.

#Künstliche Intelligenz (KI)

GPU (Grafikprozessor)

Ein Prozessor mit tausenden einfachen Rechenwerken, ursprünglich für Bilder gebaut, heute die Grundlage der KI.

#Künstliche Intelligenz (KI)

KI-Modell

Das trainierte Innenleben eines KI-Systems: Gewichte und Aufbau, ohne Oberfläche.

#Künstliche Intelligenz (KI)

Open-Weight-Modelle

KI-Modelle, deren trainierte Gewichte frei heruntergeladen und selbst betrieben werden können.

#Künstliche Intelligenz (KI)

Rechenzentrum für KI (AI Data Center)

Ein Rechenzentrum, das eigens für das Training und den Betrieb von KI-Modellen gebaut ist.

#Künstliche Intelligenz (KI)