Der Chef von Dell hat kürzlich eine ziemlich düstere Vorhersage geteilt, dass das KI-Fieber in der kommenden Zeit nicht nur nicht nachlassen, sondern sogar noch weiter ansteigen wird, was die Speicherknappheit weiter verschärfen könnte. Ihm zufolge könnte die Nachfrage nach Speicherchips in der kommenden Zeit unvorstellbar stark ansteigen. Der Grund dafür ist, dass immer mehr Speicher in die Hardware von KI-Rechenzentren eingebaut wird, um die Fähigkeiten zu entwickeln, und die Produktion kann mit diesem Sprung nicht Schritt halten.
Laut Michael Dell wird die Speichernachfrage in den nächsten Jahren um das 625-fache ansteigen, was bedeutet, dass sich die Speicherknappheit noch verschärfen wird, da sowohl den KI-Beschleunigern als auch den Serverprozessoren, die sie bedienen, mehr Speicher hinzugefügt wird und die Zahl der Rechenzentren dynamisch wächst, so dass von jeder Komponente mehr benötigt wird. Der 625-fache Anstieg wird durch die Tatsache veranschaulicht, dass der H100-Beschleuniger von Nvidia im Jahr 2022 80 GB HBM3-Speicher benötigte, während die KI-Beschleuniger, die im Jahr 2028 auf den Markt kommen, über 2 TB HBM-Speicher verfügen könnten, was einer Steigerung um etwas mehr als das 25-fache entspricht. Nimmt man noch die Erwartung hinzu, dass die Nachfrage nach KI-Beschleunigern bis 2028 ebenfalls um das 25-fache steigen wird, kommt man auf die oben erwähnte 625-fache Zahl.
Die Führungskraft scheint die maximal unterstützte Speicherkapazität für KI-Beschleuniger der nächsten Generation berechnet zu haben, die z. B. für den Vera Rubin Superchip tatsächlich 2 TB beträgt, aber die meisten Racks werden voraussichtlich "nur" 576 GB HBM4-Speicher verwenden. Das ist natürlich das 7,2-fache des im obigen Beispiel genannten H100-Beschleunigers, aber immer noch keine 25-fache Steigerung. Wenn der Anstieg der Nachfrage nach KI-Beschleunigern richtig eingeschätzt wurde, d. h. er beträgt tatsächlich das 25-fache, dann können wir auf dem Speichermarkt insgesamt einen Anstieg um "nur" das 180-fache erwarten, was natürlich immer noch massiv und fast unüberwindbar erscheint.
Schon jetzt können die großen Speicherhersteller mit dem Nachfragewachstum nicht Schritt halten, und nur drei Unternehmen werden HBM4-Speicherchip-Sandwiches herstellen: SK hynix, Samsung und Micron. An der HBM3-Front versuchen auch andere Akteure aufzuholen, aber sie sind noch nicht in der Lage, die aktuelle Nachfrage mit vereinten Kräften zu befriedigen. Es stimmt zwar, dass im Jahr 2028 einige neue Anlagen und einige neue Produktionslinien aufgrund der laufenden Investitionen in Betrieb genommen werden können, aber das wird wenig helfen, wenn die Nachfrage wirklich so stark zurückgeht, wie der Chef von Dell vorhersagt.
Es gibt bereits einen massiven Mangel an DRAM-Chips sowohl für Server-Speichermodule als auch für HBM-Speicherchip-Sandwiches, und gleichzeitig ist die Nachfrage nach LPDDR5x-Speicherchips und NAND-Flash-Speicherchips ebenfalls enorm und wird voraussichtlich weiter steigen, aber es ist unmöglich, genau vorherzusagen, wie sich die kommenden Quartale entwickeln werden, so groß ist die Unsicherheit.
In einem Nvidia GB200-basierten NVL72 AI-Server benötigt ein Rack derzeit insgesamt 480 GB LPDDR5x On-Board-Speicher, und ein Tower enthält insgesamt 144 E.1-Steckplätze, die Hochgeschwindigkeits- und SSD-Karten mit hoher Kapazität aufnehmen können. Ein kompletter Tower kann bis zu 13,4 TB HBM3e-Speicher, bis zu 17 TB Systemspeicher und bis zu 547 TB Datenspeicherkapazität erreichen, und solche Türme können in Hunderten oder sogar Tausenden solcher Türme in einem einzigen großen KI-Rechenzentrum vorhanden sein, was bedeutet, dass sie wirklich eine riesige Menge an Speicherchips benötigen.
