Die Entwicklung von KI- und HPC-Beschleunigern ist bei Nvidia in vollem Gange. Das ist auch verständlich, denn das KI-Fieber hat zu einer enormen Nachfrage nach solchen Produkten geführt, die Nvidia enorme Umsätze und Gewinne bescheren - weshalb man versucht, das Eisen zu schmieden, solange es heiß ist. Im Hintergrund versuchen bereits mehrere Marktteilnehmer, auf ihre eigenen Bedürfnisse zugeschnittene KI-Beschleuniger zu entwickeln, was im Laufe der Zeit zu einem Rückgang der Nachfrage nach Nvidia-Produkten führen könnte, was jedoch nicht in naher Zukunft zu erwarten ist.
Die Auslieferung der Blackwell-basierten KI-Beschleuniger, namentlich der Modelle B100, B200 und GB200, ist im Gange, wenn auch nicht in den Mengen, die sich das Unternehmen wünscht. Der Start der aktuellen Generation verlief nicht reibungslos: TSMC wies auf einen Designfehler hin, der dann behoben wurde, und der CEO von Nvidia räumte ein, dass es in der Tat zu Beginn der Blackwell-Serie Komplikationen gab. Die neue Generation von KI-Beschleunigern, die bereits an Kunden ausgeliefert wurde, bietet einen enormen Leistungszuwachs gegenüber der vorherigen Generation. Diese Leistung wird innerhalb der Familie dank der Entwicklung von Blackwell Ultra, das die Grundlage für den B300 und GB300 bilden wird, noch weiter verbessert werden.
Der B300 AI-Beschleuniger wird Berichten zufolge eine erhebliche Verbesserung der Leistung des Speichersubsystems mit sich bringen, da die HBM3E-Chips durch modernere, fortschrittlichere Versionen ersetzt werden: Die 8-Hi-Speicherchip-Sandwiches werden durch 12-Hi-Versionen ersetzt. In der Praxis bedeutet dies, dass jedes Speicherchip-Sandwich nun 12 HBM3E-Speicherchips anstelle von 8 enthält, wodurch die Speicherkapazität von 192 GB auf 288 GB erhöht wird, was natürlich den großen Sprachmodellen (LLMs) zugute kommt. Der B300-GPU wird natürlich auch den TDP-Rahmen im Vergleich zum B200 verändern: der übliche TDP-Rahmen von 1000 W wird voraussichtlich auf 1400 W steigen. Neben der größeren Speicherkapazität ist auch die höhere Rechenleistung positiv zu bewerten, da die B300 bei FP4-Operationen eine 1,5-mal höhere Leistung als die B200 bieten soll.
Der B300-GPU könnte auch für den Aufbau eines GB300-Superchips verwendet werden, der zwei dieser Chips umfasst. Das Speichersubsystem wird verbessert, um die maximale Speicherkapazität von 384 GB auf 576 GB zu erhöhen, was die Möglichkeiten erheblich erweitern wird. Die gesteigerte Leistung wird natürlich von einer weiterentwickelten Kühlung begleitet, mit fortschrittlichen Flüssigkeitskühlblöcken und effizienten Schnellanschluss-Kits.
Es gibt auch Gerüchte über Verbesserungen in der Netzwerkkommunikationsabteilung, die sich auf ConnectX 7 Netzwerkkarten verlassen hat, die durch ConnectX 8 Modelle ersetzt werden, und eine Änderung der optischen Module, die 1,6 Tbps statt 800 Gbps erreichen können. Für die GB300-basierten NVL72-Schränke ist auch ein standardisierter Kondensatorträger mit einer optionalen Batterie-Backup-Einheit (BBU) erhältlich.
Eines dieser BBU-Module wird voraussichtlich 300 US-Dollar pro Stück kosten, während der Preis für das komplette Kit bei 1.500 US-Dollar liegen kann. Die Superkondensatorsektion kann mehr als 300 Einheiten aufnehmen, die jeweils 20 bis 25 Dollar kosten, und kann sich als nützlich erweisen, wenn Sie plötzlich eine hohe Leistung benötigen, um Lastspitzen auszugleichen. Mit dem GB300 wird auch eine interessante Neuerung eingeführt, das LPCAMM-Speichermodul, das bereits aus dem Notebook-Markt bekannt ist und nun nicht nur in Laptops und Desktops, sondern auch im Server-Segment Einzug zu halten scheint. Zurzeit gibt es noch keine Informationen über das genaue Design, aber wir hoffen, dass es bald enthüllt wird.
