Das wachsende KI-Fieber hat auch den beliebten Hobbycomputer nicht unberührt gelassen. Jetzt gibt es eine ausreichend leistungsfähige NPU, die mit dem Raspberry Pi gepaart werden kann und sich dem Leistungsniveau der NPUs an Bord von Intel- und AMD-APUs annähert. Die NPU (Neural Processing Unit) ermöglicht es dem Raspberry Pi, in einer Reihe von Anwendungsbereichen zu arbeiten, in denen er ohne NPU eingeschränkt wäre. Das Potenzial neuronaler Netze kann genutzt werden, ohne die Leistung des Raspberry Pi wesentlich zu beeinträchtigen, da die Aufgaben von einer dedizierten Einheit ausgeführt werden. Natürlich ist es erwähnenswert, dass dies nicht der erste AI HAT ist, der für den Raspberry Pi entwickelt wurde, aber die neueste Version bietet mehr Leistung und damit mehr Möglichkeiten.

Die neue NPU ist als Erweiterungskarte erhältlich, die auf den Raspberry Pi aufgesetzt werden kann. Die Erweiterungskarte mit der Bezeichnung Raspberry Pi AI HAT+ 2 ist mit einer Hailo-10H NPU ausgestattet, die keine unbekannte Entwicklung auf dem Markt ist. Sie ist bereits seit einiger Zeit in Form eines M.2-Moduls auf dem Markt erhältlich, und es gibt reichlich Erfahrung mit ihren Eigenschaften und Leistungen. Die Hailo-10H ist eine Lösung der zweiten Generation, die auf dem Erfolg der Hailo-8 aufbaut und daher eine noch höhere Leistung und mehr Skalierbarkeit bietet.

Das Gerät ist in der Lage, LLMs, VLMs, Stable Diffusion und vieles mehr auszuführen. Die Leistung des Hailo-10H zeichnet sich durch die Fähigkeit aus, bis zu 40 TOPs Rechenleistung im INT4-Modus zu erreichen, und wird durch 8 GB On-Board-Speicher unterstützt, der über DDR-Speicheradressen mit dem Gerät verbunden ist, d.h. er ist nicht auf den Speicher des Rapsberry Pi angewiesen.

Unter Verwendung des HAT-Konzepts wird die Erweiterungsplatine einfach auf den Raspberry Pi aufgesteckt, indem die GPIO-Stiftleiste und der PCIe-Stecker verbunden und die Einheit dann mit den mitgelieferten Schrauben befestigt wird. Da die PCIe-Schnittstelle erst ab der Raspberry Pi 5-Serie verfügbar ist, kann das neue Zubehör nur mit dieser Serie verwendet werden. Die Erweiterungskarte selbst läuft nativ unter dem Raspberry Pi OS, und die Ausführung verschiedener KI-Aufgaben ist nahtlos, so dass es einfach ist, die Vorteile der neuen Funktionen zu nutzen.

Ob große Sprachmodelle, Objekt- und Artefakterkennung oder die effiziente Analyse eingehender Daten und die Erkennung verschiedener Muster - die neue Erweiterung kann jede Aufgabe bewältigen. Als Edge-Computing-Lösung kann sie Daten sofort am Rande des Netzwerks verarbeiten, was in vielen Fällen von Vorteil sein kann, denn die Möglichkeiten sind fast nur durch die Fantasie begrenzt.

Der Raspberry Pi AI Hat+ 2 ist ab sofort bei ausgewählten Händlern zu einem Preis von rund 130 US-Dollar erhältlich.