HBM-Speicherchip-Sandwiches sind auf dem Markt sehr gefragt, da die überwiegende Mehrheit der KI-Beschleuniger diese Art von Speicher verwendet. HBM ist zwar eine kostspielige Komponente, bietet aber eine enorme Speicherbandbreite, von der Geschäftsanwender in vielen Bereichen profitieren können, nicht nur bei KI-bezogenen Workflows, sondern auch bei klassischen HPC-Workloads. Derzeit sind Produkte, die auf den HBM3- und HBM3E-Standards basieren, am weitesten verbreitet, aber der Markt bereitet sich bereits auf HBM4 und HBM4E vor. Nvidia wird Beschleuniger für den KI- und HPC-Markt entwickeln, die auf beiden Speicherstandards basieren und in den Rubin-, Rubin Ultra- und Feymann-Serien zu finden sind .

SK Hynix hat als erstes Unternehmen mit der Auslieferung des branchenweit ersten 12-Chip-HBM4-Speicherchip-Sandwichs begonnen, das ausgewählte Partner nun in Vorbereitung auf die breite Einführung von HBM4 in Form von Mustern testen können. Die 12-Hi-Typ-HBM4-Speicherchips werden nicht nur eine erhebliche Verbesserung der Speicherkapazität, sondern auch der Speicherbandbreite im Vergleich zu den aktuellen Entwicklungen bringen.

Nach Angaben des Herstellers sind die HBM4-Speicherchips mit der 12-Hi-Architektur die ersten, die mehr als 2 TB Daten pro Sekunde verarbeiten können. Zur Veranschaulichung bedeutet dies, dass in einer Sekunde so viele Daten verarbeitet werden können, als ob das System mehr als 400 5-GB-Full-HD-Filme verarbeiten würde, was einen Geschwindigkeitszuwachs von 60 % im Vergleich zu den mit HBM3E erreichten Leistungswerten darstellt.

Um sowohl die Speicherbandbreite als auch die Speicherkapazität zu erhöhen, haben die Ingenieure von SK Hynix eine Verkapselungstechnologie namens Advanced MR-MUF implementiert, um 36-GB-Sandwich-Speicherchips herzustellen, die höchste Kapazität auf dem Markt für 12-Hi-HBM-Speicherchips. Das Verfahren ermöglicht es, die Chips ohne Angst vor Verformung zu stapeln und die Stabilität durch Verbesserung der Wärmeübertragung zu maximieren. Diese Technologie wurde bereits in früheren Produktgenerationen eingesetzt, wo sie sich als erfolgreich und wettbewerbsfähig erwiesen hat.

SK Hynix hat mit den 12-Hi-Sandwiches für 36-GB-HBM4-Speicherchips ebenfalls eine Branchenpremiere erzielt, ebenso wie mit den Sandwiches für HBM3-Speicherchips im Jahr 2022 und den Sandwiches für 8-Hi und 12-Hi-HBM3E-Speicherchips im Jahr 2024. Der Hersteller hat auch ein SoCAMM-Speichermodul - zusammen mit Micron - eingeführt, über das wir in dieser News berichtet haben.