Neben den Server-Prozessoren der EPYC 9005-Serie hat AMD auf der Advancing AI-Veranstaltung auch andere neue Funktionen angekündigt. Das Unternehmen hat die Verfügbarkeit der Beschleunigerkarte Instinct MI325X für den KI- und HPC-Markt angekündigt, die auf dem Papier ziemlich leistungsfähig ist und Nvidias H200 HGX-Plattform in mehreren Bereichen übertrifft, was sehr gut klingt. Es ist schade, dass sich das Kräfteverhältnis mit der Einführung von Blackwell-basierten Beschleunigerkarten wieder ändern wird, aber das ist eine andere Geschichte. Das Unternehmen hat auch gezeigt, was wir im nächsten Jahr mit dem Beschleuniger der nächsten Generation für den KI- und HPC-Markt, dem MI355X, erwarten können, der später in diesem Jahr erscheinen soll und nicht mehr auf der CDNA3-, sondern auf der CDNA4-Architektur basiert, auch wenn es sich dabei nicht um eine Aufwertung der MI400-Serie handelt, obwohl die Logik dies aufgrund der bisherigen Erfahrungen nahelegen würde. Sehen wir uns zunächst einmal an, was wir über den MI355X wissen.

AMDs neuer Beschleuniger für den KI- und HPC-Markt, der Instinct MI55X, könnte nächstes Jahr auf den Markt kommen

Es wird erwartet, dass die Beschleunigerkarte, die auf der CDNA4-Plattform basiert, auf dem N3-Knoten von TSMC gefertigt wird, was im Vergleich zum N5-Knoten nicht allzu viel zusätzliche Arbeit bedeutet, was die Designänderungen betrifft. Laut AMD wird die neue GPU in der Lage sein, mit 10 Compute Elements zu arbeiten und wird auch FP4- und FP6-Datentypen unterstützen, was eine Verbesserung gegenüber der MI325X darstellt. Die GPU wird von 288 GB HBM3E On-Board-Speicher begleitet, was bedeutet, dass das neue Modell auch mit dem zuvor angekündigten MI325X-Design übereinstimmt, obwohl letzteres seither einige Änderungen erfahren hat, mit einer von 288 GB auf 256 GB reduzierten Speicherkapazität, aber wir kommen noch darauf zurück.

Wie die genaue GPU-Architektur des MI355X aussehen wird, wurde noch nicht verraten, aber die Rechenleistung gibt uns einen Vorgeschmack auf den Geschwindigkeitszuwachs, den sie zumindest auf dem Papier bringen könnte. Der MI300X erreicht derzeit eine Rechenleistung von 1,3 PetaFLOP/s für FP16-Operationen, während seine FP8-Rechenleistung bei 2,61 PetaFLOP/s liegt. Im Vergleich dazu wird der MI355X 2,3 PetaFLOP/s und 4,6 PetaFLOP/s sequentiell leisten können, was eine Geschwindigkeitssteigerung von 77 % gegenüber der vorherigen Generation bedeutet.

Dazu gehört auch der MI325X, der die gleiche GPU-Leistung wie der MI300X bieten wird, aber mit 50 % mehr On-Board-Speicher, einem endgültigen Design, das eine 33 %ige Steigerung der Speicherkapazität darstellt, und natürlich einem höheren TDP als der MI300X. Es ist nicht bekannt, wie sich der TDP-Rahmen des MI355X entwickeln wird.

Natürlich wird auch der Vergleich mit der Konkurrenz nicht ausgelassen. Nvidias B200 Blackewell-GPU kann bei FP4-Operationen eine Rechenleistung von 9 PetaFLOP/s erreichen, während der MI355X 9,2 PetaFLOP/s erreichen wird. Im Vergleich dazu kann der GB200 nun eine Rechenleistung von 10 PetaFLOP/s für FP4-Operationen erreichen und ist damit etwas schneller als der MI355X. Beide Entwicklungen werden eine Speicherbandbreite von 8 TB/s pro Grafikprozessor haben.

Natürlich wird nur die Zeit zeigen, was der MI355X im wirklichen Leben gegen die Blackwell-Serie leisten kann. In der zweiten Hälfte des Jahres 2025 können wir mit dem Erscheinen der nächsten Generation von Nvidia-KI-Beschleunigern rechnen, so dass die neue Entwicklung auch in der Lage sein sollte, ihnen die Handschuhe auszuziehen. Hoffen wir, dass sie Erfolg haben, denn es ist höchste Zeit, das Monopol von Nvidia zu brechen.

MI325X vorgestellt, aber mit weniger Speicher als erwartet

Die andere wichtige Neuigkeit auf dem Markt für KI- und HPC-Beschleuniger, die bereits von AMD stammt, ist die Einführung des MI325X. Dieser Beschleuniger basiert im Wesentlichen auf dem MI300X, über den wir in dieser News geschrieben haben, aber statt 192 GB sollte er nun 288 GB On-Board-Speicher vom Typ HBM3E enthalten, da die ursprünglichen Pläne eine Erhöhung der Speicherkapazität um 50 % im Vergleich zum Vorgängermodell vorsahen. Mit der jüngsten Ankündigung wurde bekannt, dass der MI325X nicht 288 GB, sondern "nur" 256 GB On-Board-Speicher haben wird, was eine Steigerung von 33 % statt 50 % bedeutet, aber dennoch die Wettbewerbsfähigkeit des Produkts des Unternehmens im KI-Segment verbessert.

Basierend auf Herstellertests stellt der Instinct MI325X in mehreren Bereichen eine Verbesserung gegenüber der H200 HGX-Plattform von Nvidia dar. Sie hat einen 1,8-fachen Vorteil bei der Speicherkapazität gegenüber der H200 und eine 1,3-fach höhere Speicherbandbreite. Auch die FP8- und Fp16-Rechenleistung ist beim MI325X 1,3-mal höher als bei seinem Konkurrenten.

Auch die Plattform selbst gilt als schneller, denn beim Vergleich von Systemen mit 8 GPUs ist die Deduktionsleistung des Systems mit MI325X-Beschleunigern bis zu 1,4x höher als die des H200 HGX. In Bezug auf die Trainingsleistung ergibt sich ein Vorteil von bis zu 1,1-mal, wenn man 1 GPU mit 1 GPU vergleicht, während der Vergleich für die 8-GPU-Plattform ausgeglichen ist.

Der MI325X ist nun offiziell auf dem Markt, die Produktion beginnt in diesem Quartal, aber die neuen Beschleunigerkarten und Server werden erst im ersten Quartal 2025 im Handel erhältlich sein.