Zwischen OpenAI und Hugging Face kam es zu einem beispiellosen Cybersicherheitsvorfall , und dieser Fall wirft mehr Probleme auf, als auf den ersten Blick erkennbar ist. Es ist geradezu schockierend, dass KI-Agenten, wenn sie einmal außer Kontrolle geraten, andere Plattformen hacken können, doch was vielleicht ein noch größeres Problem darstellt und noch mehr Fragen aufwirft, ist die Art und Weise, wie OpenAI mit der gesamten Angelegenheit umgegangen ist.
Am 16. Juli testete OpenAI nach eigenen Angaben zwei Sprachmodelle in einer geschlossenen und streng überwachten Umgebung; im Rahmen des Tests sollten die Modelle einen Hackerangriff durchführen. Laut der offiziellen Mitteilung des Unternehmens setzte OpenAI das Modell GPT-5.6 Sol sowie ein noch nicht angekündigtes experimentelles Modell ein und deaktivierte in diesen Modellen die bei öffentlichen Modellen zwingend vorgeschriebenen Schutzmechanismen, damit der Cybersicherheitstest erfolgreich durchgeführt werden konnte.
Die Aufgabe der beiden Modelle bestand darin, völlig eigenständig und als Agenten agierend nach Schwachstellen in einem bestimmten Code zu suchen und durch Ausnutzung verschiedener Sicherheitslücken die Verteidigungslinien zu durchbrechen.
Bei der Ausführung der Aufgabe fanden die Modelle heraus, wie sie aus der abgeschotteten Umgebung entkommen konnten, verschafften sich Zugang zum Internet und kamen zu dem Schluss, dass sie in der Hugging-Face-Datenbank die Schlüssel finden könnten, mit denen sie ihr ursprüngliches Ziel knacken könnten. Im Laufe des Vorfalls wurden sowohl in den Systemen von OpenAI als auch von Hugging Face mehrere schwerwiegende Schwachstellen durch Modellvarianten entdeckt, die für Cybersicherheitszwecke optimiert waren.
Der Fall wird noch verschärft durch die Tatsache, dass OpenAI laut dem Bericht von Hugging Face nicht versucht hat, unverzüglich Kontakt mit der Plattform aufzunehmen. Das Unternehmen stellte den Einbruch selbst fest, und die von ihm beauftragten Sicherheitsdienstleister versuchten, den Angriff abzuwehren. Hugging Face wusste zwar nicht, dass konkret OpenAI hinter dem Angriff steckte, erkannte jedoch sofort, dass es sich nicht um ein alltägliches Cybersicherheitsproblem handelte, da „von Anfang bis Ende ein autonomes KI-Agentensystem“ identifiziert wurde.
Nachdem klar war, was genau passiert war, begannen OpenAI und Hugging Face, ihr Wissen zu bündeln, um zu ergründen, was genau der von den beiden Modellen gesteuerte Agent im Hintergrund tat und wie er dabei vorging. Das sind wichtige Erkenntnisse, die dazu beitragen, dass sich solche Vorfälle in Zukunft nicht wiederholen können.
Was ist das größte Problem daran, dass so etwas überhaupt passieren konnte? Nun, es ist die Art und Weise, wie OpenAI mit dem Vorfall umgeht. Es ist völlig offensichtlich, dass das Unternehmen zwar seine Schuld einräumt, aber gleichzeitig versucht, aus der Angelegenheit kostenlose Werbung zu machen.
Es betont immer wieder, wie leistungsfähig seine hochentwickelten Cybersicherheitslösungen sind. Mit Testergebnissen versucht es zu beweisen, dass die GPT-Modelle auch in dieser Hinsicht führend sind, während es gerade sein eigenes System und sogar einen anderen seiner Dienste gehackt hat. Außerdem hat er Hugging Face angeboten, es in seinen Kreis der bevorzugten Partner aufzunehmen, um dabei zu helfen, dessen Sicherheitssystem zu stärken. (Dabei hätte es offenbar auch bei seinem eigenen Sicherheitssystem noch einiges zu verbessern gegeben.)
Es ist äußerst besorgniserregend, dass OpenAI nach einem solchen Vorfall praktisch versucht, sich in ein positives Licht zu rücken. Cybersicherheitsexperten haben bereits zuvor betont, dass die schnelle und nahezu ungebremste, unregulierte Entwicklung generativer KI unabsehbare Folgen haben kann. Dieser Fall zeigt (erneut), dass selbst die Technologieunternehmen nicht in der Lage sind, ihre eigenen Entwicklungen zu kontrollieren. Man sollte lieber gar nicht darüber nachdenken, wozu Cyberkriminelle mit den immer fortschrittlicheren Werkzeugen – oder sogar mit einem internen Modell, das in die falschen Hände gerät – fähig sein könnten.
