Eine GPU, auf Deutsch Grafikprozessor, ist ein Prozessor mit tausenden einfachen Rechenwerken, die gleichzeitig arbeiten. Gebaut wurde sie für die Berechnung von Bildern, und das tut sie bis heute in jedem Rechner und jedem Telefon. Zugleich ist sie zur Grundlage für das Training und den Betrieb von KI-Modellen geworden, und das ist der Zusammenhang, in dem der Begriff am häufigsten fällt.
- GPU (Grafikprozessor)
Ein Prozessor mit tausenden einfachen Rechenwerken, ursprünglich für Bilder gebaut, heute die Grundlage der KI.
Beispiel: „Für das Modell mit 70 Milliarden Parametern braucht es zwei GPUs mit je 80 Gigabyte Speicher.“Wofür sie ursprünglich gebaut wurde: für die Darstellung von Bildern in Echtzeit. Jeder Bildpunkt auf dem Schirm lässt sich unabhängig von allen anderen berechnen, und für diese Gleichartigkeit ist eine Bauart aus tausenden einfachen Rechenwerken genau richtig. Der Name Grafikprozessor beschreibt diesen Zweck und nicht den heutigen Schwerpunkt der Berichterstattung.
Der Unterschied zum gewöhnlichen Hauptprozessor: Der hat wenige, sehr schnelle Kerne für Aufgaben, die nacheinander ablaufen. Eine GPU hat tausende langsamere, die dieselbe Rechnung auf viele Daten zugleich anwenden.
Warum das zu neuronalen Netzen passt: Deren Rechnungen sind Matrizenmultiplikationen, also millionenfach dieselbe einfache Operation. Genau dafür ist die Bauart gemacht, und das ist der Grund, warum Grafikkarten zur KI-Hardware wurden.
Was sie außerhalb der KI leistet
Den größten Teil ihrer Arbeit, gemessen an der Zahl der Geräte. Spiele und dreidimensionale Darstellung, Videoschnitt und das Umrechnen von Videoformaten, Bildbearbeitung, Konstruktionsprogramme, wissenschaftliche Simulationen und medizinische Bildgebung laufen auf GPUs. In all diesen Fällen gilt dasselbe Prinzip wie bei neuronalen Netzen: viele gleichartige Rechnungen, die sich gleichzeitig ausführen lassen.
Wo sie im Webumfeld vorkommt
Im Gerät des Besuchers. Browser lassen Bewegungen und Überblendungen von der GPU rechnen, wenn die Eigenschaften dafür geeignet sind: Verschiebungen über transform und Änderungen der Deckkraft laufen dort, während Änderungen an Position oder Größe den Browser zur Neuberechnung des Seitenaufbaus zwingen. Das ist der sachliche Grund hinter der Empfehlung, Animationen über transform und opacity zu bauen, und er ist älter als jede KI-Anwendung.
Was im Betrieb zählt
Der Speicher auf der Karte, und zwar vor der Rechenleistung. Ein Modell muss vollständig hineinpassen, sonst läuft es gar nicht; erst danach entscheidet die Geschwindigkeit, wie viele Anfragen je Sekunde möglich sind. Als Faustregel braucht ein Modell in gewöhnlicher Genauigkeit etwa zwei Gigabyte Speicher je Milliarde Parameter, und mit Quantisierung deutlich weniger.
Was Training von Betrieb unterscheidet
Die Größenordnung. Für das Training großer Modelle werden zehntausende Karten über Wochen zusammengeschaltet; für den Betrieb genügen wenige, und für kleine Modelle reicht eine einzelne. Das ist der sachliche Grund, warum Modelle zu bauen wenigen vorbehalten ist und Modelle zu benutzen allen offensteht.
Was Anwender davon wissen müssen
Wenig, solange sie über eine Schnittstelle arbeiten. Wichtig wird es erst beim eigenen Betrieb, siehe Selbst gehostetes Modell. Dann ist die Karte der größte Kostenblock, und die Frage lautet, welche gerade lieferbar ist und wie gut sie ausgelastet wird. Eine Karte, die zu zehn Prozent ausgelastet ist, kostet dasselbe wie eine voll ausgelastete, und genau daran scheitern die meisten Kostenrechnungen für den eigenen Betrieb.