Eine TPU, ausgeschrieben Tensor Processing Unit, ist ein von Google entwickelter Prozessor, der eigens für die Rechnungen neuronaler Netze gebaut ist. Anders als eine Grafikkarte hat sie keine Vorgeschichte in der Bildberechnung und verzichtet auf alles, was dafür nötig wäre.
- TPU (Tensor Processing Unit)
Ein von Google entwickelter Prozessor, der eigens für neuronale Netze gebaut ist.
Beispiel: „Die Modelle von Google laufen auf TPUs, die bei anderen Anbietern verfügbaren meist auf GPUs.“Der Name kommt vom Tensor, der mehrdimensionalen Zahlentabelle, mit der neuronale Netze rechnen. Eine TPU ist darauf zugeschnitten und spart dadurch Strom und Fläche.
Verfügbar ist sie nur über die Google-Cloud und nicht zum Kauf. Das unterscheidet sie von Grafikkarten und bindet Nutzer an einen Anbieter.
Was sie von einer GPU unterscheidet
Die Spezialisierung. Eine TPU rechnet die immer gleichen Operationen schneller und sparsamer, kann dafür weniger anderes. Für Training und Betrieb großer Modelle ist das der richtige Zuschnitt; für Entwicklung, Versuche und ungewöhnliche Rechnungen ist eine Grafikkarte flexibler, und dafür gibt es mehr Software.
Wann der Unterschied zählt
Bei sehr großen Vorhaben und bei der Wahl des Anbieters. Wer Modelle in großem Maßstab trainiert, rechnet in Strom je Rechenschritt, und dort entscheiden wenige Prozent über Millionenbeträge. Für alle anderen ist die Hardware unsichtbar: Wer ein Modell über eine Schnittstelle benutzt, merkt nicht, worauf es läuft.
Warum der Begriff trotzdem vorkommt
Weil er in Ankündigungen und Marktberichten steht und weil die Verfügbarkeit von Rechenleistung zur strategischen Frage geworden ist. Die Entwicklung eigener Prozessoren durch die großen Anbieter ist der Versuch, sich aus der Abhängigkeit von einem einzigen Hersteller zu lösen, und dieser Zusammenhang erklärt viele Nachrichten der letzten Jahre. Für Anwender folgt daraus wenig; für die Einordnung von Meldungen über Lieferengpässe und Investitionen in Milliardenhöhe ist er der fehlende Hintergrund. Praktisch relevant wird die Unterscheidung nur bei der Wahl der Cloud: Wer auf TPUs setzt, bindet sich enger an einen Anbieter als mit Grafikkarten, die überall laufen.