High Bandwidth Memory ist die ausgeschriebene Form und bezeichnet Speicher, der direkt neben dem Rechenwerk gestapelt sitzt. Daraus kommt der Engpass der KI-Hardware: Der Nachschub an Daten begrenzt häufiger als die Rechenleistung. Hersteller sind SK hynix, Samsung und Micron.
Siehe: HBM (High Bandwidth Memory)