Eine sehr interessante Studie wurde in Zusammenarbeit zwischen der Carnegie Mellon University und Antropic durchgeführt, um zu untersuchen, ob speziell trainierte große Sprachmodelle autonom einen Cyberangriff durchführen können. Dies ist eine komplexe Aufgabe, da es erforderlich ist, auf das Netzwerk zuzugreifen, Schwachstellen zu finden und dann den eigentlichen Angriff auszuführen. Dies erfordert ein hohes Maß an Geschicklichkeit, ein ausgezeichnetes Situationsbewusstsein, schnelles Handeln und eine breite Palette von Tricks - etwas, das bisher nur die geschicktesten Hacker konnten, aber der Aufstieg der KI könnte die Landschaft verändern.

Die Forschung wurde von Brian Singer geleitet, einem Doktoranden der Carnegie Mellon University, der auch mit seinem Team bei Anthropic zusammenarbeitete. Ihre Arbeit hat gezeigt, dass LLMs mit dem richtigen Training und den richtigen Werkzeugen Netzwerkangriffe simulieren können, die denen, die von Hackern in realen Umgebungen durchgeführt werden, sehr ähnlich sind. In Verbindung mit spezialisierten Agenten-Frameworks und fortgeschrittenen Planungsfähigkeiten können diese LLMs sehr wirksame Angriffe durchführen, auch wenn diese bisher nur simuliert werden konnten.

Die LLMs in dieser speziellen Studie waren in der Lage, in das Unternehmensnetz einzudringen, Schwachstellen zu erkennen und einen mehrstufigen, gut geplanten Angriff völlig autonom und ohne menschliches Eingreifen auszuführen. Das Ergebnis zeigt, dass große Sprachmodelle nicht nur mit grundlegenden Aufgaben betraut werden können, sondern auch in der Lage sind, eigenständig und ohne menschliches Eingreifen Entscheidungen zu treffen und sich sogar an eine sich dynamisch verändernde Netzwerkumgebung anzupassen.

Diese "Entdeckung" schafft eine doppelte Situation, denn einerseits können gut ausgebildete LLM die Sicherheit vor Cyberangriffen erhöhen; andererseits kann diese "Technologie", wenn sie in die falschen Hände gerät, die Fähigkeiten von Cyberkriminellen auf ein neues Niveau heben und ihre Effektivität durch die Automatisierung und Skalierung ihrer Angriffe erheblich steigern. KI kann auch vor letzterem schützen, indem sie Fachleuten für Cybersicherheit hilft, den Schutz von Netzen erheblich zu verbessern, indem sie proaktiv Schwachstellen und Schwachpunkte aufzeigt und das Netz durch Angriffssimulationen sicherer und widerstandsfähiger macht.

Die Studie ergab, dass die wichtigsten Sprachmodelle bei verschiedenen Aufgaben unterschiedlich abschneiden und dass es auch viele Unterschiede in der Funktionalität gibt. In diesem Bereich sind noch weitere Verbesserungen erforderlich, um die Effizienz, Funktionalität und Effektivität zu steigern, aber die Studie unterstreicht auch das Potenzial von LLMs und zeigt, wie gefährlich sie sein können, wenn sie in die falschen Hände geraten.

Die detaillierten und veröffentlichten Ergebnisse der Studie finden Sie hier.