Anthropic, OpenAI, Meta, Google – diese Unternehmen haben nicht nur gemeinsam, dass sie über führende Sprachmodelle verfügen, sondern auch, dass ihre Tools inzwischen völlig eigenständig echte Cyberangriffe verübt haben. Das jüngste Beispiel ist Google, dessen Fall sich in vielerlei Hinsicht von den bisherigen unterscheidet.
Die modernsten KI-Tools werden in erstaunlich vielen Bereichen getestet, und in der Regel kam es im Rahmen von Sicherheitstests zu Cyberangriffen. Auch im Fall von Google geschah genau das: Einer der Partner des Unternehmens testete Gemini, und dabei ging etwas schief, was dazu führte, dass KI-Agenten in mehrere Unternehmen eindrangen. Die verschiedenen Unternehmen gingen mit dieser Situation auf recht unterschiedliche Weise um. OpenAI machte aus der Tatsache, dass seine Tools einen Cyberangriff auf Hugging Face verübten, Werbung.
Google hingegen versuchte, den Vorfall zu vertuschen, bzw. war nach Angaben des Unternehmens nicht der Ansicht, dass es über irgendetwas berichten müsse. Auch diesmal kam dies erst ans Licht, nachdem das Wall Street Journal der Sache nachgegangen war. Auf die Fragen der Zeitung hin erklärte das Unternehmen, was geschehen war, und gab an, von sich aus nicht darüber berichtet zu haben, weil es ihrer Meinung nach kein ernsthaftes Problem gegeben habe.
Dem Bericht des WSJ zufolge gelangte „Gemini“ während eines von einem externen Unternehmen durchgeführten Sicherheitstests in die Systeme von drei Unternehmen, doch Google sah darin keinen Verstoß gegen die Vorgaben.
Den verfügbaren Informationen zufolge unterscheidet sich der Fall von Google tatsächlich von dem, was bei den anderen passiert ist. Auch Gemini geriet außer Kontrolle und führte Operationen durch, für die es keine Berechtigung hatte, doch es gab einen sehr wichtigen Unterschied zu den bereits bekannten Fällen: Gemini stoppte nach dem Eindringen.
Heather Adkins, Leiterin der Sicherheitsentwicklungsabteilung bei Google, betonte, dass Gemini unmittelbar nach dem Cyberangriff erkannt habe, dass es von seiner Aufgabe abgewichen sei, und die Arbeit eingestellt habe. In allen drei Fällen wurden die Einbrüche mit einer relativ einfachen Methode begangen: Es wurden aus dem Internet zusammengetragenen Daten verwendet, da das Modell davon ausging, dass auch dies Teil der ihm zugewiesenen Sicherheitsaufgabe sei.
„Das Modell fand öffentliche Informationen im Internet und stellte daraus funktionierende Anmeldedaten für jene Webseiten zusammen, von denen es annahm, dass sie Teil des Tests seien. In allen drei Fällen wurden die KI-Agenten gestoppt“, erklärte Adkins.
Der Experte erklärte, dass Google bereits über umfangreiche Erfahrung darin verfügt, Sicherheitslücken an verschiedene Unternehmen zu melden, und dies sei im Prinzip auch hier geschehen. Allerdings sei in diesem Fall laut Adkins lediglich ein schwaches Passwort im Unternehmen verwendet worden.
„Wir haben dafür gesorgt, dass die drei Organisationen von dem Vorfall in Kenntnis gesetzt wurden, und gemeinsam mit unserem Partner, der den Sicherheitstest durchgeführt hat, haben wir Maßnahmen erarbeitet, mit denen ähnliche Vorfälle in Zukunft vermieden werden können. Diese Vorfälle verdeutlichen, wie wichtig es ist, leistungsstarke Modelle der künstlichen Intelligenz zu verantwortungsvollem Verhalten zu erziehen“, betonte der Google-Sicherheitsexperte.
Im Fall von OpenAI und Google laufen die Fäden übrigens bei demselben Partner zusammen: Es war Irregular, das die Sicherheitstests durchführte, die aus dem Ruder liefen. Nach den Vorfällen hat das Unternehmen die Umgebung für den Umgang mit den Modellen geändert.
