Das AMD-Team hat zuvor stolz die Leistung der mobilen High-End-APU des Unternehmens, der RYZEN AI MAX+ 395, die an der Spitze der Strix Halo-Serie steht, bei der Beschleunigung verschiedener KI-bezogener Aufgaben angekündigt. Kürzlich wurden neue Messungen veröffentlicht, die zeigen, dass die neue AMD-APU in einigen Fällen bis zu 12,2 Mal schneller ist als das schnellste Mitglied der Lunar-Lake-Serie von Intel, der Core Ultra 258V.
Die AMD APU selbst verfügt über 16 Prozessorkerne, 32 Kerne, eine 40 CU RDNA 3.5 iGPU und eine XDNA2 NPU mit 50 TOPs. Beim Intel Core Ultra 7 258V sind es insgesamt 8 Kerne und 8 Threads, eine Arc Graphics 140V iGPU mit 64 CUs und eine NPU, die eine maximale Rechenleistung von 47 TOPs erreichen kann.
Laut AMDs internen Messungen liefert der RYZEN AI Max+ 395 in bestimmten Workflows eine bis zu 12,2-mal bessere Reaktionszeit als der Core Ultra 7 258V, was ein gewaltiger Unterschied zu sein scheint. Der Leistungsunterschied ist auch in Fällen beeindruckend, in denen die Komplexität großer Sprachmodelle normale Notebooks mit 32 GB On-Board-Speicher immer näher an die Grenzen ihrer Leistungsfähigkeit bringt.
Das ASUS RoG Flow Z13-Notebook mit 64 GB On-Board-Speicher und einer iGPU der Radeon RX 8060S-Serie lieferte bei der Token-Verarbeitung eine 2,2-mal höhere Leistung als der Intel Arc 140V-basierte Lunar Lake SoC. Für den ersten Token benötigte die AMD-Maschine viermal weniger Zeit für die Erstellung der kleineren LLMs als z. B. die 3-Milliarden-Parameter-Llama 3.2, aber dieser Unterschied vergrößerte sich auf das 9,1-Fache für die 7-8-Milliarden-Parameter-DeepSeek R1 Distill-Versionen.
Die AMD-Architektur schnitt auch bei multimodalen visuellen Verarbeitungsaufgaben außerordentlich gut ab. So verarbeitete sie beispielsweise komplexe visuelle Eingabedaten unter IBM Granite Vision 2.3 3B bis zu siebenmal schneller, während sie unter Google Gemma 3 12B sechsmal schneller war als ihr Pendant aus der Lunar-Lake-Serie.
Zu den Vorteilen der Plattform gehört die Möglichkeit, der iGPU über die VGM-Unterstützung (Variable Graphics Memory) für Systeme mit 128 GB On-Board-Speicher bis zu 96 GB Speicher zuzuweisen, was die Verwendung von Google Gemma 3 27B Vision ermöglicht, was bereits ein komplexes Modell darstellt. Die Vorteile dieser Plattform können in einer Reihe von Bereichen genutzt werden, einschließlich der medizinischen Bildgebung, dank der höheren Leistung und der Vorteile der größeren maximalen Speicherkapazität, die auch die Verarbeitung komplexerer großer Sprachmodelle ermöglicht.
