Nvidias GB300-basierte Server befinden sich bereits bei einigen Partnern in Produktion, aber die neuesten Nachrichten besagen, dass die Auslieferung in großem Maßstab erst später, irgendwann im September, beginnen wird, zumindest nach Angaben von Industriequellen gegenüber DigiTimes. Der große Unterschied zur vorherigen GB200-Produktreihe besteht jedoch darin, dass die GB300-basierten Server einen wesentlich reibungsloseren Start haben werden, da Nvidia seinen Partnern in vielerlei Hinsicht mehr Freiheiten einräumt und es ihnen ermöglicht, die Komponenten, die sie für ihre Produkte benötigen, effizienter und schneller von ihren etablierten Lieferanten zu beziehen.
Für die Markteinführung des GB200 wurde das Bianca-Motherboard von Nvidia selbst geliefert, mit der B200-GPU, der Grace-CPU, 512 GB LPDDR5X-On-Board-Speicher und allen Komponenten für die Stromversorgung und sogar dem Switch-Tray und der Kupfer-Backplate. Für den GB300 hat sich die Strategie geändert, was zu einer wesentlich reibungsloseren Einführung der neuen Server führen sollte.
Jüngste Berichte deuten darauf hin, dass der GB300 keine Komplettlösung mehr sein wird. Nach Informationen von SemiAnalysis wird der B300-Grafikprozessor separat in Form eines SXM-Puck-Moduls, die GBA-gekapselte Grace-CPU separat und der Hardware-Management-Controller (HMC) als separate Einheit aus dem Angebot von Axiado erhältlich sein. Die anderen Komponenten, die für den Aufbau der Motherboards benötigt werden, können von den Partnern separat bezogen werden. Auch beim Systemspeicher wird es eine gewisse Flexibilität geben, da die neue Plattform SOCAMM-Speichermodule verwenden kann, die von einer Reihe von Speicheranbietern bezogen werden können. Der Switch-Tray und die Kupfer-Backplane werden weiterhin von Nvidia stammen. Das bisherige Design der Hauptplatine wird beibehalten, so dass die Plattform nicht neu entwickelt werden muss, was zu einem reibungsloseren und schnelleren Herstellungsprozess und damit zu einem risikofreien Start beitragen wird.
Den bisherigen Berichten zufolge gab es keine Schwierigkeiten mit dem GB300 und alles läuft nach Plan, was ein wichtiger Faktor für die oben genannte Strategie sein könnte. Das Nvidia-Team wird die Produktion im dritten Quartal hochfahren, und im vierten Quartal sollten sie in der Lage sein, die Auslieferungen erheblich zu steigern, was bedeutet, dass der Markt gut bedient werden sollte.
In der Zwischenzeit schreitet die Entwicklung der nächsten Generation von KI-Servern ebenfalls gut voran. Diese werden jedoch Vera-Prozessoren statt Grace und Ruby-basierte GPUs statt Blackwell haben, aber das aktuelle Oberon-Rack kann weiterhin verwendet werden. Diesmal heißt die Entwicklung NVL144, die, wie bereits berichtet, 72 Dual-GPU-Chipsätze enthalten wird. Der nächste Schritt wird die Einführung des Kyber-Racks sein, das mit einem neuen Design daherkommt und vier Rubin-GPUs neben der Vera-CPU beherbergen wird.
Die KI-Beschleuniger der Rubin-Generation werden einen größeren Appetit haben als ihre Blackwell-basierten Gegenstücke, was zu einer höheren Wärmeentwicklung führt, was bedeutet, dass noch mehr Wert auf eine flüssigkeitsbasierte Kühlung gelegt wird. Natürlich wird in diesem Bereich noch einiges an Arbeit nötig sein, denn bei den GB200-basierten Servern kam es in der Vergangenheit immer wieder zu Flüssigkeitsverlusten, die vor allem auf das Versagen der schnellen Anschlüsse zurückzuführen waren. Dies erforderte häufige Wartungsarbeiten, die die Betriebskosten in die Höhe trieben und manchmal zu Ausfallzeiten des Racks führten. Es ist nicht bekannt, ob dieses Problem bei den GB300-basierten Servern gelöst wird, aber es wird rechtzeitig entdeckt werden.
