Nach Informationen von Bloomberg bereitet Nvidia eine ziemlich drastische Preiserhöhung im Segment der KI-Server vor, in dem bereits eine Preissteigerung um einige Prozent für die Käufer erhebliche Zusatzkosten bedeutet, und es handelt sich dabei nicht um ein paar Prozent, sondern in einigen Fällen um Preiserhöhungen von über 15 %, wie zumindest Informanten berichteten, die darum baten, anonym zu bleiben. Die Preiserhöhung ist bislang noch nicht öffentlich bekannt, nur die größten Kunden des Unternehmens wurden darüber informiert.
Die erwähnte Preiserhöhung betrifft planmäßig die auf Grace Blackwell und Vera Rubin basierenden Systeme; ihr genauer Umfang hängt im Wesentlichen davon ab, um welche Generation es sich handelt und wie viel Arbeitsspeicher die Kunden für den jeweiligen Server angefordert haben. Die Preiserhöhung ist aufgrund der Speicherkrise notwendig, da die Preise für Speicherchips nach wie vor so massiv steigen, dass die derzeitige Preisgestaltung damit nicht Schritt halten kann; Eine Preisanpassung ist daher unumgänglich, da Nvidia die zusätzlichen Kosten nicht selbst trägt, sondern sie an die Kunden weitergibt.
Ein ähnlicher Prozess fand kürzlich auch auf dem Verbrauchermarkt statt, wo das Unternehmen im Segment der Grafikkarten der Serien „ “ und „GeForce RTX 50 “ erhebliche Preiserhöhungen vorgenommen hat, und die erhöhten Preise sind bereits in Kraft getreten – sehr zum Leidwesen der Gamer. Die Preiserhöhung war leider zu erwarten, da Analysten zuvor berichtet hatten, dass die Vertragspreise für herkömmliche DRAM-Chips im zweiten Quartal auf Quartalsbasis um 58–63 % steigen würden, zuvor war es im ersten Quartal des Jahres bereits zu einem Preisanstieg von 90–95 % gekommen, d. h., insgesamt handelt es sich um einen enormen Preisanstieg, der sich leider auch in Zukunft fortsetzen wird. Gleichzeitig sind die Kapazitäten der Speicherhersteller begrenzt; sie können bei weitem nicht so viele Speicherchips produzieren, wie der Markt benötigen würde, was die ohnehin schon extrem hohen Preise noch weiter in die Höhe treibt.
Zudem wird in KI-Servern eine enorme Menge an Speicher verbaut: Betrachtet man allein die HBM4-Speicherchip-Sandwiches, so können pro Nvidia-Rubin-GPU bis zu 288 GB Speicher verbaut werden, wobei ein NVL72-Server 72 GPUs beherbergt, sodass die HBM4-Speicherkapazität einen Wert von über 20 TB erreicht; gleichzeitig benötigt die Vera-CPU jedoch auch Systemspeicher, der allerdings dem LPDDR-Standard entspricht. Betrachtet man die Anschaffungskosten von KI-Servern, so macht der Preis für Speicherchips einen immer größeren Anteil aus; entsprechend schnell steigen auch die Kosten, da die Serverhersteller den Entwicklungen auf dem DRAM-Markt folgen müssen, um ihre Gewinne zu sichern.
Neben dem Server-Segment erleben wir auch auf dem Markt für Speichermodule für Gamer turbulente Zeiten: Während vor einem Jahr ein 32-GB-DDR5-6000-MHz-Speicherset zu Preisen zwischen 110 und 140 Dollar auf den Markt kam, werden dafür mittlerweile bereits 392 Dollar verlangt, und nach der aktuellen Lage wird sich der Preisanstieg in diesem Jahr fortsetzen; für das nächste Jahr prognostizieren Analysten zudem, dass sich die Lage im DRAM-Segment weiter verschärfen wird, was bedeutet, dass die Preise noch weiter steigen könnten.
Bei KI-Servern, die in der Regel Millionenbeträge kosten, bedeutet eine Preiserhöhung von über 15 % für die Käufer zusätzliche Kosten in Höhe von mehreren hundert Dollar pro Server, und bei größeren KI-Rechenzentren macht sich der Preisanstieg sogar noch deutlicher bemerkbar. Gleichzeitig ist TSMC nicht in der Lage, so viele GPUs zu produzieren, wie im Segment der KI-Beschleuniger benötigt würden, was ebenfalls einen preistreibenden Effekt auf den Markt ausübt und die Lage sowie die Möglichkeiten der Käufer weiter verschlechtert.
Aufgrund der Preissteigerungen bei den KI-Servern von Nvidia könnten Hyperscaler nach alternativen Quellen suchen, beispielsweise die KI-Beschleuniger und KI-Server von AMD wählen oder auf speziell entwickelte Chips zurückgreifen, um so den Mangel zu mildern. Obwohl dies gangbare Wege wären, erfordert jeder davon enorme Mengen an Speicher, an dem es mangelt, sodass auch die alternativen KI-Beschleuniger nicht in unbegrenzter Menge hergestellt werden können, was den Handlungsspielraum der Käufer weiter einschränkt.