Beschleuniger für den KI- und HPC-Markt sind zunehmend gefragt, da große Sprachmodelle (LLMs) und KI-gestützte Dienste an Bedeutung gewinnen. Die Entwicklung von LLMs erfordert eine riesige Menge an KI-Beschleunigern, so dass es sich um einen dynamischen und wachsenden Markt handelt, in den man investieren sollte. Nvidia ist der derzeitige Marktführer, aber Intel und AMD ruhen sich nicht auf ihren Lorbeeren aus. Nvidia hat erst kürzlich die Gaudi3-Familie von KI-Beschleunigern eingeführt, und AMD steht kurz vor der Aktualisierung seiner Produktpalette mit der Einführung der MI350-Serie neben der MI300-Serie.
Was können wir von den neuen Beschleunigern erwarten? Analysten von TrendForce haben unter Berufung auf Branchenquellen berichtet, dass AMD einen Wechsel der Waferbreite für die MI350-Serie vorbereitet, was bedeutet, dass der taiwanesische Halbleiter-Auftragshersteller möglicherweise 4nm-Waferbreite anstelle der 5nm-Fertigungstechnologie von TSMC einsetzt. Was das PDK (Process Design Kit) betrifft, so sind diese im Wesentlichen in der gleichen Kategorie, aber die 4-nm-Bandbreite bietet dennoch Verbesserungen. Einerseits können CDNA 3- und ZEN 4-Chipsätze, die auf der 4-nm-Fertigungstechnologie basieren, höhere Taktraten als ihre aktuellen Gegenstücke erreichen, andererseits können die Vorteile der neuen Fertigungstechnologie von den Ingenieuren des Unternehmens auch zur Verbesserung der Energieeffizienz genutzt werden. Gleichzeitig gibt es nicht nur Änderungen am Chip, sondern auch am Speicher-Subsystem.
Derzeit verfügt der MI300A über 128 GB On-Board-Speicher, während der MI300X insgesamt 192 GB On-Board-Speicher hat - 8 beim ersteren und 12 beim letzteren, auf HBM3-Speicherchip-Sandwiches. Diese Chips können nun von AMD durch HBM3E-basierte Lösungen für die MI350-Serie ersetzt werden, die nicht nur eine höhere Speicherbandbreite bieten, sondern auch eine höhere Speicherkapazität zusätzlich zur 12-Hi-Architektur ermöglichen.
Die neuen KI-Beschleuniger ermöglichen es den Partnern auch, größere LLMs als bisher zu trainieren. Eine ähnliche Übung haben wir bereits intern bei Nvidia gesehen, wo der H100-Beschleuniger mit 80 GB HBM3-Speicherchips kürzlich durch einen H200-KI-Beschleuniger mit 141 GB HBM3E-Speicher ergänzt wurde. AMD kann auf Nvidias H200-KI-Beschleuniger im Wesentlichen mit Mitgliedern der MI350-Serie reagieren: Die neuen Ergänzungen könnten gegenüber Konkurrenzlösungen leistungsfähiger sein als Mitglieder der aktuellen MI300-Serie. Es ist noch nicht bekannt, wann genau die MI350-Serie auf den Markt kommen wird, aber es wird erwartet, dass sie in der zweiten Jahreshälfte nach dem Nvidia H200 erhältlich sein wird.
