Die Omdia-Analysten haben neulich eine sehr aufschlussreiche Statistik vorgelegt, die zeigt, wie sich die Käufe von Beschleunigerkarten für den KI- und HPC-Markt für jeden der großen Marktteilnehmer entwickelt haben, soweit es sich um Nvidia-Produkte handelt. Aus den Daten geht hervor, dass Microsoft bei weitem die meisten Hopper-basierten KI-Beschleuniger gekauft hat, während an den zweitgrößten Kunden weniger als halb so viele Produkte ausgeliefert wurden.
In Zahlen ausgedrückt bedeutet dies, dass Microsoft insgesamt 485.000 Hopper-basierte KI-Beschleuniger von Nvidia gekauft hat - eine erstaunliche Menge. Zu den Beschleunigern gehörten H100-, H200- und H20-Modelle, und das Unternehmen gab insgesamt mehr als 30 Milliarden US-Dollar für die neuen Server aus. Dementsprechend waren die Investitionsausgaben und die mit den GPU-Käufen verbundenen Kosten höher als je zuvor. Das Unternehmen möchte sicherstellen, dass seine Cloud-Infrastruktur und seine KI-Dienste ausreichend leistungsfähig sind, um auf dem Markt konkurrenzfähig zu sein - der Erfolg erfordert nicht nur leistungsstarke Hochsprachenmodelle, sondern auch die Hardware, um sie zu trainieren und zu bedienen.
Microsofts Zahlen werden durch den Kauf von ByteDance in diesem Jahr in den Schatten gestellt, da das chinesische Unternehmen nur etwa 230 000 KI-Beschleuniger auf Hopper-Basis kaufte, darunter einige H800 und Standard-H100, die damals mit den US-Ausfuhrbeschränkungen konform waren - letztere wurden von Dritten erworben.
Von den großen US-Unternehmen haben nur Meta, Tesla/xAI, Amazon und Google mit durchschnittlich 200 000 Hopper-basierten KI-Beschleunigern dieses Niveau erreicht. Dank der riesigen Anzahl von Nvidia-KI-Beschleunigern, die im Umlauf sind, haben Nvidia-GPUs einen großen Anteil an neuen Kapitalinvestitionen, die auf den Servermarkt abzielen.
Hinter den Kulissen arbeiten natürlich mehrere Unternehmen daran, ihre eigenen KI-Beschleuniger so leistungsfähig wie möglich zu machen, wodurch die Produkte von Nvidia stärker substituierbar werden, was ihnen in vielerlei Hinsicht zugute kommen könnte. Einerseits können sie ihre eigenen Beschleuniger für ihre eigenen Bedürfnisse und Arbeitsabläufe optimieren, was zu einer besseren Leistung führt; andererseits kann diese Optimierung auch eine höhere Energieeffizienz bedeuten, was zu einem besseren Verhältnis zwischen Leistung und Stromverbrauch beiträgt. Amazon arbeitet an Trainium- und Inferentia-Beschleunigern, während Meta an MTIA arbeitet und Google versucht, mit TPU unabhängiger von Nvidia zu werden.
Das ist natürlich keine leichte Aufgabe, denn Nvidias CUDA-Framework ist tief in die Branchensoftware eingebettet, und der Hersteller bringt ständig neue KI-Beschleuniger auf den Markt, die immer besser sind als die vorherige Generation. Das Unternehmen bietet seinen Partnern einen hervorragenden Service, sowohl bei der Hardware als auch bei der Software, und diesem "Komfort" kann man nur schwer entkommen.
Berichten zufolge gibt es auch eine große Nachfrage von Partnern nach Blackwell-basierten Beschleunigern, was bedeutet, dass die Bestellungen übertroffen werden könnten, wenn die Produktionskapazitäten verfügbar sind.
