Anfang April kündigte Anthropic den Start von Project Glasswing an, einer Sicherheitsinitiative auf der Grundlage des Claude-Mythos-Modells. Das Unternehmen hat nur vertrauenswürdige Partner, die Crème de la Crème der Technologiebranche, wie OpenAI, , Nvidia und , Amazon und andere einbezogen. Kürzlich hat sich jedoch herausgestellt, dass das geschlossene und streng gehütete Modell von Unbefugten genutzt wurde.
Eine Person, die nicht namentlich genannt werden wollte, erklärte gegenüber Bloomberg, dass "eine kleine Gruppe unbefugter Nutzer" Zugang zu dem Cybersicherheitstool hatte, das laut Anthropic so gefährlich sein könnte, dass das Unternehmen nicht die Absicht hat, es zu öffnen.
Dies ist eine äußerst schwerwiegende Anschuldigung, aber das Unternehmen hat auch Beweise dafür vorgelegt, dass es in der Lage war, als Außenstehender auf das spezifische Modell zuzugreifen. Er stellte der Zeitung mehrere Screenshots zur Verfügung, um seine Behauptungen zu untermauern. Der Bloomberg-Whistleblower bezeichnete sich selbst als Subunternehmer von Anthropic und sagte der Zeitung, dass es einer Gruppe auf Discord gelungen sei, sich unbefugt Zugang zu verschaffen.
"Die Mitglieder verschafften sich Zugang zum Mythos-Modell durch eine Kombination von Methoden, indem sie ihre Zugriffsrechte als Subunternehmer und einfache Online-Recherchetools nutzten", heißt es in dem Bericht. Den Zugang verschafften sich die Unbefugten angeblich am 7. April, also genau an dem Tag, an dem das Unternehmen den Start von Project Glasswing mit einer sehr begrenzten Anzahl von Partnern ankündigte.
Es soll sich dabei um eine Discord-Gruppe handeln, deren Mitglieder vor der Veröffentlichung Informationen über in der Entwicklung befindliche Modelle sammeln. Es wird berichtet, dass das Modell Claude Mythos seit der Entdeckung des unbefugten Zugriffs regelmäßig verwendet wurde. Darüber hinaus soll auch auf andere in der Entwicklung befindliche Modelle unter dem Dach von Anthropic zugegriffen worden sein - andere Claude-Varianten sind im Gespräch.
Claude Mythos ist derzeit nur in einer vorläufigen Version verfügbar, weshalb das Unternehmen versucht hat, die Anzahl der Personen, die offiziell damit arbeiten können, zu begrenzen. Es handelt sich um ein Allzweckmodell, das in vielen Tests viel besser abschneidet als die heute erhältlichen "Verbraucher"-Geräte. Sein Hauptzweck besteht darin, Schwachstellen zu finden und Lösungen vorzuschlagen. Anthropic hat die Wirksamkeit des Tools gegenüber seinen Partnern unter Beweis gestellt, indem es Schwachstellen aufgedeckt hat, die seit Jahrzehnten in weit verbreiteten Systemen verborgen waren.
Auf Nachfrage von Bloomberg erklärte Anthropic, dass ihm kein Missbrauch bekannt sei und es keinen unbefugten Zugriff festgestellt habe. "Wir untersuchen einen Bericht, wonach Unbekannte über die Systeme eines unserer Drittanbieter auf das Claude Mythos Pre-Model zugegriffen haben". - fügte das Unternehmen hinzu.
Es ist sicherlich besorgniserregend, wenn die größten Technologieunternehmen der Welt, die an der Spitze der Entwicklung künstlicher Intelligenz stehen, eine Sicherheitsverletzung dieses Ausmaßes begehen.
Man muss sich bewusst machen, dass Hacker mit dem Modell „Claude Mythos“ nicht nur Sicherheitslücken aufdecken können, indem sie ihre eigenen Interessen in den Vordergrund stellen, sondern dass damit auch weitaus ernstere Gefahren verbunden sein können. Da es sich um ein Cybersicherheits-Tool handelt, das vorläufig nur in einer geschlossenen und kontrollierten Umgebung läuft, sind darin höchstwahrscheinlich keine Sicherheitsbeschränkungen enthalten – oder diese sind wesentlich lockerer als üblich. Dies macht den aktuellen Fall noch schwerwiegender.
