Kategorien

HUAWEI MI-BESCHLEUNIGER UNTERSTÜTZEN MÖGLICHERWEISE AUCH DAS DEEPSEEK-SPRACHMODELL

Über das DeepSeek-Startup, das in den letzten Tagen für Aufsehen gesorgt hat, sind sehr interessante Informationen aufgetaucht, und Huawei könnte der Schlüssel zur Kosteneffizienz sein.
DemonDani
DemonDani
Huawei MI-Beschleuniger unterstützen möglicherweise auch das DeepSeek-Sprachmodell

Das von DeepSeek entwickelte Sprachmodell und generative KI-Toolkit könnte große Veränderungen in der ohnehin schon schnelllebigen Branche der künstlichen Intelligenz auslösen. Bisher wurde gemunkelt, dass das Unternehmen gewöhnliche Nvidia-Beschleuniger verwendet, um seine Modelle zu betreiben, aber ein aktueller Bericht legt nahe, dass die Geschichte nicht so einfach ist.

In China haben Unternehmen heute keinen Zugang zu den hochmodernen, voll funktionsfähigen KI-Beschleunigerkarten, die Nvidia westlichen Unternehmen zur Verfügung stellen kann. Deshalb ist es von Anfang an etwas nebulös, welche Hardware das Unternehmen genau verwendet. Früher gab es Gerüchte, dass hinter den Kulissen minderwertige Nvidia-GPUs zum Einsatz kommen könnten, doch ein Bericht auf X lässt anderes vermuten.

Das von Liang Wenfeng gegründete Unternehmen setzt angeblich 2.000 Nvidia H800 ein, und es war auch die Rede von einem größeren Nvidia A100-Cluster, über den es verfügt. Darüber hinaus könnte das Unternehmen aber auch Huawei-Beschleuniger einsetzen, um eine angemessene Leistung und Effizienz seiner verschiedenen Dienste zu erreichen.

Der Huawei Ascend 910C MI-Beschleuniger kann von DeepSeek verwendet werden, um Rechenaufgaben und andere Workflows durchzuführen.

Derzeit ist es also so, dass das DeepSeek-Team für das Training und andere frühere Aufgaben, die eine hohe Rechenleistung erfordern, in der Tat Nvidia-Beschleunigerkarten verwendet hat, aber jetzt übernehmen Produkte von Huawei einen Teil der Arbeit. Warum hat das Unternehmen also nicht von vornherein das Ascend 910C für das Training verwendet? Nun, man könnte Spekulationen lesen, dass es wahrscheinlich nicht leistungsfähig genug dafür war, aber es könnte auch erklärt werden, dass es einfach keine solche Lösung gab. Frühere Berichte deuteten darauf hin, dass die Massenproduktion des Ascend 910C vor kurzem angelaufen sein könnte, wobei DeepSeek möglicherweise erste Geräte verwendet hat.

Wie bereits berichtet, zielt Huawei mit dem Ascend 910C darauf ab, dem Nvidia H1000 Konkurrenz zu machen. Die Entwicklung wurde von Huawei damit begründet, dass es aufgrund der US-Sanktionen sehr schwierig ist, Nvidia-MI-Beschleuniger in China zu beziehen, was bedeutet, dass es eine erhöhte Nachfrage nach einer lokal verfügbaren, uneingeschränkten Alternative mit angemessener Leistung gibt. Außerdem könnte die extreme Preisgestaltung von Nvidia Huawei helfen, selbst wenn das Unternehmen in der Lage ist, einen extrem teuren Chip gewinnbringend zu verkaufen.

Jüngsten Berichten zufolge ist der Ascend 910C noch nicht in der Batterie, es gibt Leistungsnachteile, und es ist schwierig, die Leistung von MI-Chips in größeren Clustern zu erreichen. Berichten zufolge ist der Nachfolger 920C bereits in der Pipeline, der in jeder Hinsicht einen großen Schritt nach vorn bedeuten könnte.

Gerüchten zufolge könnte DeepSeek jedoch auch das nächste V4-Großsprachenmodell mit dem Ascend 910C verwenden, wobei 32.000 Huawei-Beschleunigerkarten für diese Funktion erfasst werden.

Wenn diese Nachricht wahr ist, könnte das für Nvidia ziemlich schmerzhaft sein. Bisher schien es nur ein Problem mit dem Auftauchen des DeepSeek R1 zu haben, weil es darauf hindeutete, dass es viel weniger Nvidia-Karten brauchen könnte als bisher angenommen, aber jetzt sieht es so aus, als ob es vielleicht doch keine Nvidia-Chips braucht. Im Moment ist der Hardware-Hintergrund von DeepSeek noch recht undurchsichtig, so dass wir gespannt sind, mehr darüber zu erfahren.

Wir empfehlen Ihnen gerne

    Teste

      Diesbezügliche Artikel

      Zurück zum Seitenanfang