ByteDance, das große Unternehmen hinter TikTok, hat neuesten Branchenberichten zufolge mit der Entwicklung von GPUs für KI-Beschleuniger begonnen, um die Abhängigkeit von den Produkten und dem Ökosystem von Nvidia zu verringern. Den Meldungen zufolge könnte die Massenproduktion der neuen KI-GPUs bereits 2026 beginnen, und der Halbleiter-Vertragshersteller wird natürlich das taiwanesische Unternehmen TSMC sein. Die Entwicklung der neuen Chips ist noch im Gange, daher ist es nicht sicher, dass der Zeitplan eingehalten wird, d. h. dass die Produkte nach 2026 erscheinen könnten.
Im Hintergrund wird es nicht nur eine, sondern zwei Arten von KI-GPUs geben, die anwendungsspezifisch sein werden: eine zur Beschleunigung der Arbeitsabläufe in der KI-Trainingsphase, die andere zur schnelleren Durchführung von Ableitungsaufgaben. Natürlich wird der Löwenanteil der Entwicklungsarbeit nicht von ByteDance, sondern von Broadcoms erfahrenem Team geleistet werden. Letztere haben bereits KI-Chips für Google hergestellt, sind also keine Unbekannten auf diesem Gebiet. Leider gibt es keine Informationen über die Leistungsstufen, die die neuen KI-Beschleuniger anpeilen werden, aber es ist möglich, dass sie auf einer der N4- oder N5-Chipbreiten von TSMC hergestellt werden. Das könnte bedeuten, dass die neuen KI-Beschleuniger mit einer ähnlichen Bandbreite wie die 4NP-Chips der Blackwell-Serie von Nvidia hergestellt werden könnten, allerdings erst irgendwann im Jahr 2026, sodass ihr Einsatz zu diesem Zeitpunkt beginnen könnte.
ByteDance ist ein ziemlich großer Kunde, der in der letzten Zeit mehr als 200.000 Nvidia H20 KI-Beschleuniger im Wert von mehr als 2 Milliarden Dollar gekauft hat. Das könnte bedeuten, dass der Preis für jedes dieser Produkte in der Größenordnung von 10 000 US-Dollar liegen könnte, was einen erheblichen Preisnachlass im Vergleich zum normalen Preis von 12 000 bis 13 000 US-Dollar darstellt. Es gibt ein großes Problem bei der Bestellung: Die H20-KI-Beschleuniger werden noch ausgeliefert, und das Unternehmen wird vorerst auf die meisten von ihnen warten müssen, was keine ideale Situation ist, da sie dringend benötigt würden. Diese Investition ist ein gutes Beispiel für die Bedeutung von KI in der Gesamtstrategie von ByteDance.
Der Bedarf an "selbst entwickelten" KI-GPUs ergibt sich auch aus der Tatsache, dass die KI-Beschleuniger von Nvidia sowohl teuer sind als auch eine lange Wartezeit haben. Das H20-Modell wurde entwickelt, um chinesische Kunden zufrieden zu stellen, da es mit den US-Exportbeschränkungen vollständig konform ist. Im Gegenzug wurde die Leistung deutlich reduziert: Während die INT8/FP8-Leistung des H100 3958 TOPs/TFLOPs beträgt, liegt der H20 bei 296 TOPs/TFLOPs. Bei den BF16/FP16-Rechenaufgaben kommt der H100 auf 1979 TFLOPs, während der H20 nur 148 TFLOPs erreicht. Nichtsdestotrotz handelt es sich um ein gutes Angebot mit 96 GB integriertem HBM3-Speicher und einer Speicherbandbreite von bis zu 4 TB/s sowie der Möglichkeit, 8-Wege-Beschleunigersysteme zu bauen.
Die oben genannten Leistungsniveaus sind kaum mit denen von ByteDance und Broadcom konkurrenzfähig, was zum Teil an den US-Exportbeschränkungen liegt, die für die jüngsten Upgrades gelten, aber im Gegenzug können sie die Beschleunigung von KI-Aufgaben kostengünstiger lösen, was insgesamt ein großer Vorteil ist. Dies erfordert natürlich die Überwindung einer großen Herausforderung: die Entwicklung eines eigenen Software-Ökosystems, da sie jetzt auf das CUDA-Ökosystem von Nvidia angewiesen sind, mit dem die "hausgemachten" KI-Beschleuniger nicht kompatibel sein werden. Die KI-Beschleuniger von Nvidia werden in bestimmten Bereichen immer noch benötigt werden. Sie werden sicherlich vorerst nicht vollständig durch die Chinesen ersetzt werden, aber die Abhängigkeit von Nvidias Produkten könnte sich etwas verringern.
