Micron ist ein amerikanisches Unternehmen aus Boise im Bundesstaat Idaho, das Speicherbausteine entwirft und selbst fertigt. Gegründet wurde es 1978; geführt wird es seit 2017 von Sanjay Mehrotra.
- Micron
Einer der wenigen Hersteller von Arbeitsspeicher, auch für KI-Beschleuniger.
Beispiel: „Ein Beschleuniger im Rechenzentrum kommt von einem Entwerfer, der Speicher daneben von Micron oder einem der beiden anderen Anbieter.“Zwei Arten: Arbeitsspeicher hält, woran gerade gerechnet wird, und vergisst alles beim Abschalten. Flash-Speicher behält seinen Inhalt und sitzt in Festplatten und Speicherkarten.
Abgrenzung zum Auftragswerk: Micron entwirft und fertigt selbst. Wer wie NVIDIA nur entwirft, lässt bei TSMC fertigen.
Warum der Speicher über die Geschwindigkeit entscheidet
Weil ein KI-Modell aus Gewichten besteht, die bei jeder Antwort gelesen werden müssen. Die Rechenwerke moderner Beschleuniger warten dabei häufiger auf Nachschub aus dem Speicher, als sie rechnen.
Deshalb wandert der Speicher immer näher an das Rechenwerk heran. Gestapelte Speicherchips, die direkt neben dem Beschleuniger sitzen und über sehr viele Leitungen angebunden sind, heißen High Bandwidth Memory, kurz HBM.
Was HBM von gewöhnlichem Arbeitsspeicher unterscheidet
Die Bauform. Statt einzelner Bausteine auf einer Steckleiste liegen mehrere Speicherchips übereinander und sind senkrecht durchkontaktiert. Der Weg zum Beschleuniger wird dadurch kurz und breit zugleich.
Gefertigt wird dieser Speicher von drei Unternehmen weltweit: Micron, SK hynix und Samsung. Wie viel davon entsteht, begrenzt mit, wie viele Beschleuniger gebaut werden können.
Warum Micron selbst fertigt
Weil Speicher ein Massenprodukt mit sehr knappen Margen ist. Entwurf und Fertigung zu trennen, lohnt sich dort nicht; die Kosten je Baustein sinken nur über eigene Werke und sehr große Stückzahlen.
Das macht das Geschäft zyklisch. Ein neues Werk ist Jahre vorher zu planen, die Nachfrage dreht schneller, und in dieser Lücke entstehen abwechselnd Überangebot und Knappheit.