Vor einigen Tagen gab es eine aktuelle Meldung darüber, dass die von OpenAI betriebenen KI-Agenten durch einen ausgeklügelten Angriff einen Weg gefunden haben, Daten aus einer Datenbank der australischen Regierung zu entwenden. Nun können wir darüber berichten, dass mehrere Gruppen von KI-Agenten sogar versucht haben, in die Systeme der Vereinten Nationen einzudringen.
Einem Sicherheitsbericht zufolge haben die Tools von OpenAI versucht, unberechtigt auf die Website der Konferenz der Vereinten Nationen für Handel und Entwicklung (UNCTAD) zuzugreifen, die statistische Daten enthält.
Basierend auf den Analysen des Sicherheitsforschers Rowan Howard-Jones haben Agenten von OpenAI bei zahlreichen Gelegenheiten und unter Einsatz verschiedener Methoden versucht, in die Organisation der Vereinten Nationen einzudringen. Es konnten mehr als 16.000 Einbruchsversuche nachverfolgt werden, aus denen sich sehr interessante und nützliche Informationen gewinnen ließen.
Die von OpenAI entwickelten Agenten der künstlichen Intelligenz „ “ konnten zwar nicht in das UN-System eindringen, gaben jedoch nicht einfach auf, sondern probierten eine Vielzahl von Vorgehensweisen aus. Laut Howard-Jones bestand die Aufgabe der Agenten wahrscheinlich darin, über die UNCTADstat-API öffentlich zugängliche Daten zum Produktionskapazitätsindex (PCI) zu beschaffen. (Der PCI dient unter anderem dazu, Entwicklungsländern dabei zu helfen, ihre Produktionskapazitäten zu verstehen und zu erkennen, wie diese ausgebaut werden könnten.) Die Mitarbeiter hatten jedoch keinen entsprechenden API-Zugang, was ihre Arbeit jedoch nicht behinderte.
Nachdem die Tools von OpenAI festgestellt hatten, dass sie auf keinem offenen Weg auf die statistische Datenbank der UNCTAD zugreifen konnten, begannen sie, verschiedene alternative Methoden zur Datenbeschaffung zu entwickeln.
Zunächst versuchten sie, Daten von der Website abzufragen, doch dies erwies sich als nicht effizient genug, da sie auf zu viele Fehler stießen. Daraufhin kamen die Agenten zu dem Schluss, dass das System ihre Aktivitäten als Bot-Aktivitäten erkennen könnte, weshalb sie auf neue Methoden zurückgriffen und versuchten, ihre Aktivitäten zu verschleiern. Auch damit erreichten sie ihr Ziel nicht. In der nächsten Runde versuchten sie, mithilfe des XSS-Web-Sicherheitsspiels von Google, das zu Schulungszwecken dient, Zugriff zu erlangen, doch auch dies blieb erfolglos.
Die Agenten griffen zu immer aggressiveren Taktiken, um an die Daten der Vereinten Nationen zu gelangen – betonte Rowan Howard-Jones. Angeblich kam es zwischen April und Juni zu mehreren Angriffswellen.
Allmählich zeichnet sich übrigens ab, dass die Modelle und Agenten von OpenAI eine Cyberbedrohung für jede Art von Online-Entität darstellen können. Und es lässt sich bereits mit Sicherheit sagen, dass nur ein ganz kleiner Bruchteil der von ihnen verübten Angriffe ans Licht gekommen ist; den Großteil ihrer raffinierten Machenschaften werden wir wahrscheinlich nie erfahren. OpenAI und die UNO haben sich zu dem oben genannten Fall bislang nicht geäußert.
Das Pikante an dieser aktuellen Meldung ist, dass gerade in diesen Tagen die jährliche Generalversammlung der Vereinten Nationen stattfand, bei der die Staats- und Regierungschefs der Welt zusammenkamen und in deren Rahmen natürlich auch das Thema künstliche Intelligenz zur Sprache kam. Mehrere Führungskräfte von Technologieunternehmen ergriffen bei der Veranstaltung das Wort, und die Experten im UN-Sicherheitsrat versuchten, alle auf die von KI ausgehenden Gefahren aufmerksam zu machen.
Neben anderen ergriff auch Sam Altman, der Chef von OpenAI, auf der Konferenz das Wort. Altman sprach davon, dass mehr Vorsicht denn je geboten sei, da die neuesten Modelle bereits einen bedeutenden Wendepunkt erreicht hätten.
Wir wissen nicht, wie lange OpenAI diese Aktivitäten noch ungestraft fortsetzen kann, denn wie man es auch dreht und wendet: Unabhängig von der Absicht des Unternehmens stellen die ungezügelten Chatbots und Agenten langsam eine ständige Bedrohung für die Datenbanken dar. Die Abwehrmaßnahmen können erhebliche Ressourcen binden, was unter Umständen dazu führen kann, dass notwendige Schutzmaßnahmen nicht umgesetzt werden können. Im Extremfall könnte OpenAI mit seinen Aktivitäten echten Cyberkriminellen Tür und Tor öffnen.
