Google, OpenAI, Meta und Anthropic wetteifern seit Monaten darum, die besten KI-Tools auf den Markt zu bringen. Meta denkt weiterhin in Richtung Open-Source-Lösungen und erklärte bereits im April, dass "wir ein offenes Modell entwickeln, das in Bezug auf die Leistung mit den besten privaten Modellen von Unternehmen wie OpenAI konkurrieren wird".
Jetzt ist dieses Modell da: Llama 3.1 ist das bisher beste und größte Open-Source-KI-Modell des Unternehmens, und es wird bereits erwartet, dass es in einigen Tests die Modelle GPT-4o und Claude 3.5 Sonnet schlägt. Das Unternehmen sagt, dass Meta AI sich bereits jetzt als besserer Gesprächspartner als ChatGPT erweisen wird, da es in einer größeren Anzahl von Sprachen mit breiterer Unterstützung für ältere Sprachen verwendet werden kann und nun auch die Möglichkeit der Bilderzeugung bietet. Wir sollten jedoch hinzufügen, dass Meta AI in der EU noch nicht verfügbar ist und es ist schwer vorherzusagen, wann sich dies ändern wird.
Mark Zuckerberg sagte in der Ankündigung, dass Metas eigener Chatbot bis Ende des Jahres der Dienst mit der größten Nutzerbasis sein wird, so dass er ChatGPT in kurzer Zeit überholen wird. Llama 3.1 ist eine große Verbesserung gegenüber Llama 3, das im April angekündigt wurde, da es buchstäblich zu einer riesigen Größe angewachsen ist und 405 Milliarden Parameter und 16.000 Nvidia H100 GPUs zum Trainieren verwendet.
Meta sieht in offenen Modellen die Zukunft, sie werden den Markt in Zukunft dominieren, und Llama ist das erste Modell, dem es gelingt, die private Entwicklung zu übertreffen.
"Ich glaube, dass die Veröffentlichung von Llama 3.1 ein Wendepunkt ist. Von nun an werden die Marktteilnehmer mehr mit offenen Modellen arbeiten", so Mark Zuckerberg. Und es ist viel billiger zu betreiben als GPT-4o, mit etwa der Hälfte der Kosten für die Verarbeitung von 1 Million Token.
Meta wird es Partnern auch ermöglichen, Llama 3.1 auf ihren eigenen Daten zu trainieren, so dass sie spezifische KI-Tools für verschiedene Aufgaben erstellen können und eine größere Sicherheit und Zuverlässigkeit erreichen. Das Unternehmen freute sich auch, hervorzuheben, dass es über eines der größten Partnernetzwerke in der Branche verfügt. Amazon, Databricks, Nvidia, Google, Microsoft und andere haben sich Dell und IBM angeschlossen. Das Unternehmen ist in der Lage, die meisten Möglichkeiten durch Databricks zu bieten.
Im viel beachteten MMLU-Test lag das Llama 3.1 mit 88,6 Prozent gegenüber 88,7 Prozent nur knapp hinter dem GPT-4o, während das Claude 3.5 Sonnet 88,3 Prozent erreichte. Im ebenfalls sehr beliebten GSM8K-Wettbewerb hatte das Llama 3.1 bereits die Nase vorn, aber auch bei den anderen Sprachmodellen ging es sehr eng zu. Im HumanEval-Framework, das Programmierprobleme misst, liegt Llama nun etwas weiter hinter den anderen zurück und hat in diesem Bereich noch Raum für Verbesserungen, aber in den Tests, die die Fähigkeiten zum Verfolgen langer Kontexte messen, ist Llama bereits der beste Performer.
Zusätzlich zu Llama 3.1 mit 405 Milliarden Parametern werden derzeit kleinere Versionen entwickelt. Es wird eine Version mit 70 Milliarden Parametern und eine Version mit nur 8 Milliarden Parametern geben. Diese werden noch billiger und effizienter sein, und das Llama 3.1 mit 8 Milliarden Parametern kann sogar lokal auf mobilen Geräten und Notebooks laufen.
Bei der Meta-KI schaltet das System, wenn der Nutzer das wöchentliche Limit erreicht hat, vom Llama-3.1-Modell mit 405 Milliarden Parametern auf das Modell mit 70 Milliarden Parametern um. Daraus wird ersichtlich, dass es zwar billiger ist als GPT-4o, aber für Meta unendlich viel aufwändiger wäre, es allen Nutzern zur Verfügung zu stellen. Das Llama 3.1 70B kann bereits zu einem deutlich niedrigeren Preis für die Verarbeitung von 1 Million Token arbeiten.
Eine weitere interessante neue Funktion ist die "Imagine Me"-Funktion von Meta AI, ein Bildgenerator, der die Gesichter von Menschen verwendet, um imaginäre Bilder von ihnen zu erstellen. In diesem Fall handelt es sich um mehr als nur eine Bilderzeugung, denn die Nutzer müssen ihr Gesicht mit ihrem Mobiltelefon scannen, um diese Verbesserung nutzen zu können. Es werden keine vom Benutzer hochgeladenen Bilder verwendet, so dass es nicht für tiefgreifenden Missbrauch verwendet werden kann.
Llama 3.1, das Meta eingesetzt hat, könnte in Zukunft auch in Entwicklungen von Drittanbietern erscheinen. Dies wird auch für die auf dem Gerät laufende KI von Interesse sein, da Llama 3.1 8B möglicherweise bereits in mehreren mobilen Anwendungen enthalten ist.
