Die Experten von Samsung haben anlässlich der Hot Chips 2026-Konferenz eine interessante Entwicklung erwähnt, die für KI-Beschleuniger eine enorme Hilfe sein könnte, nämlich ein spezieller HBM4E-Speicherchip, der mit einer höheren Taktrate als die derzeitigen Modelle arbeitet. Damit lässt sich die effektive Speicherbandbreite deutlich erhöhen, was wiederum die Gesamtleistung des KI-Beschleunigers verbessert.

Die neue Entwicklung ist den Ingenieuren der Samsung Semiconductor-Sparte zu verdanken, die für den besagten HBM4E-Speicherchip-Stapel DRAM-Chips verwendeten, die auf der 10-nm-Fertigungstechnologie der 6. Generation von Samsung basieren. Unter den übereinandergeschichteten Chips befindet sich ein spezieller Trägerchip, der wiederum mit Samsungs 4-nm-Fertigungstechnologie mit dem Codenamen „SF4“ hergestellt wurde. Kunden können diesen Basis-Chip bei Bedarf auch mit Komponenten bestellen, die spezielle Funktionen bieten, wodurch sich die Leistung des jeweiligen KI-Beschleunigers weiter steigern lässt, da die Daten anhand verschiedener Kriterien für die weitere Verwendung vorbereitet werden können, was dazu beiträgt, den KI-Beschleuniger etwas zu entlasten.

Der Speicherchip selbst ist deshalb von großer Bedeutung, weil die derzeit in Produktion befindlichen HBM4-Speicherchip-Sandwiches pro Kontakt eine Geschwindigkeit von 11,7 Gbit/s pro Kontakt erreichen, während dieser Wert bei den zuvor angekündigten und seit Ende Mai ausgelieferten HBM4E-Exemplaren bereits bei 14 Gbit/s liegt; die neueste Entwicklung ermöglicht sogar das Erreichen einer Geschwindigkeit von 16 Gbit/s. Dies zeigt deutlich, dass die Leistungssteigerung der Speicherchip-Sandwiches sehr gut voranschreitet, wovon sowohl die Hersteller von KI-Beschleunigern als auch die KI-Entwickler in hohem Maße profitieren werden.

Bei den derzeit ausgelieferten HBM4E-Speicherchip-Stapeln ermöglicht die Geschwindigkeit von 14 Gbit/s pro Kontakt in Verbindung mit einem 2048-Bit-Speicherbus eine Speicherbandbreite von 3,6 TB/s, doch dieser Wert lässt sich durch die 16-Gbps-Entwicklung auf 4 TB/s steigern. Dies ist natürlich nur die Leistung eines einzelnen Speicherchips; in jedem KI-Beschleuniger können etwa ein Dutzend solcher Chips Platz finden, sodass sich aus der Beschleunigung von 400 MB/s pro Chip schnell eine erhebliche Geschwindigkeitssteigerung realisieren lässt. Der Chip selbst besteht aus 12 Schichten, d. h., er wird in einer 12-Hi-Konfiguration geliefert, und verfügt somit über eine Gesamtkapazität von 48 GB; später werden jedoch auch Modelle in 8-Hi- und 16-Hi-Bauweise auf den Markt kommen, da das Unternehmen aufgrund der Kundennachfrage auf jeden Fall darauf reagieren muss. Das 8-Hi-Modell wird über eine Kapazität von 16 GB verfügen, während das auf 16-Hi basierende Modell eine Kapazität von 64 GB haben wird.