Große Sprachmodelle (Large Language Models, LLM) entwickeln sich ständig weiter, und eine wachsende Zahl von Experten weist auf die neuen Möglichkeiten hin, die sie Cyberkriminellen bieten. Diese neuen Angriffsformen sind schwer abzuwehren, weshalb die Einführung von KI-basierten Funktionen und deren zunehmende "Raffinesse" auch für die Abwehrsoftware von entscheidender Bedeutung sind. Es ist keine Neuigkeit, dass heute KI-basierte Tools zur Verfügung stehen, die Cyberkriminellen helfen, ihre Ziele effektiver zu erreichen, aber in nicht allzu ferner Zukunft könnte die Toolbox weiter ausgebaut werden und sogar die komplette Entwicklung von Malware durch entsprechend ausgebildete LLMs umfassen, was neue und noch nie dagewesene Bedrohungen mit sich bringen könnte.
Dies wird auf der Konferenz Black Hat 2025 von einem Team demonstriert, das bereits ein leistungsfähiges LLM entwickelt hat. Dieses umfangreiche Sprachmodell hat in nur drei Monaten Training Malware entwickelt, die die Schutzmechanismen von Microsoft Defender for Endpoint umgehen kann und damit eine große Bedrohung für Unternehmensanwender darstellen könnte. Der Leiter des Outflank-Teams, Kyle Avery, erklärte gegenüber Dark Reading, dass er rund 1.500 US-Dollar für das Training des fraglichen LLM ausgegeben hat, das auf dem quelloffenen Qwen 2.5 LLM basiert, und dass er ermutigende Ergebnisse erzielt hat.
Zwar kann KI in der Tat dazu verwendet werden, Malware zu erstellen, die in der Lage ist, den Schutz von Windows Defender for Endpoint zu umgehen, doch ein solcher bösartiger Code kann nur in etwa 8 % der Versuche erstellt werden, der Rest ist der Aufgabe einfach nicht gewachsen. Diese Erfolgsquote von 8 % mag nicht sehr hoch erscheinen, man könnte sogar sagen, eine Lachnummer, aber man sollte bedenken, dass Anthropic AI eine Erfolgsquote von weniger als 1 % und DeepSeek von weniger als 0,5 % hat, also die Erfolgsquote bei der Erstellung von Malware - Outflanks LLM ist um Lichtjahre besser. Diese Erfolgsquote von 8 % reicht einem unvorbereiteten Angreifer nicht aus, um mit KI ausreichend wirksame Malware zu erstellen, aber sie reicht aus, um vorbereiteten Cyberkriminellen die Arbeit zu erleichtern, d. h. ihre "Produktivität" zu verbessern.
Die Bedrohung ist also real und sollte nicht auf die leichte Schulter genommen werden. Es lohnt sich, sich so schnell wie möglich auf solche Angriffe vorzubereiten - hoffentlich unternimmt das Microsoft-Team die notwendigen Schritte, um die Sicherheit zu verbessern und Windows Defender neue Funktionen zur Bekämpfung von Malware der nächsten Generation hinzuzufügen. Natürlich ist das menschliche Element, d. h. Schäden, die durch unvorsichtige Mitarbeiter verursacht werden, vielleicht eine ernstere Bedrohung, aber es gibt auch das mögliche Problem, dass die Software, die von Cybersicherheitsexperten zum Testen des Schutzes einzelner Systeme verwendet wird, in die falschen Hände gerät und so verändert werden könnte, dass sie für Cyberkriminelle effektiver wird.
Outflank plant, auf der Black Hat 2025-Konferenz im August zu zeigen, was sein LLM leisten kann, das dann wahrscheinlich noch leistungsfähiger sein wird als jetzt.
