Microsoft scheint es sehr ernst damit zu meinen, Windows 11, dem derzeit fortschrittlichsten Windows-Betriebssystem, eine KI-Agentenfunktionalität hinzuzufügen, die es KI-Agenten, die auf verschiedene Aufgaben zugeschnitten sind, ermöglichen wird, komplexere Aufgaben auszuführen, indem sie den Anweisungen des Benutzers folgen. Der Leiter der Windows-Abteilung, Pavan Davaluri, hat bereits erklärt , dass sich Windows zu einem agentenbasierten Betriebssystem entwickeln wird, in dem KI-Agenten eine größere Rolle bei der Ausführung verschiedener alltäglicher Aufgaben spielen werden, so dass die Nutzer ihre Zeit mit nützlicheren Aufgaben verbringen können.
Das mag insgesamt nicht schlecht klingen, aber wenn man sieht, wie das Unternehmen zum Beispiel die KI-basierte Rückruf-Funktion implementiert hat, ist das keine Idee, von der Windows 11 Nutzer begeistert sind, um es vorsichtig auszudrücken. Viele sind der Meinung, dass Microsoft sich auf seine eigene Vision konzentriert und ignoriert, was die Nutzer wirklich brauchen, und dass dies früher oder später zu ernsthaften Problemen führen wird oder bereits jetzt führt.
In der Zwischenzeit wurde im Hintergrund bereits mit dem Testen der KI-Agentenfunktionalität begonnen. Die Version 26220.7262 von Windows 11 ist als Teil des Windows Insider Preview Programs verfügbar, wobei die ersten Agentenfunktionen aktiviert sind. Diese sind im Menü Einstellungen auf der Registerkarte System zu finden, wo sie nach der Aktivierung der Funktion "Experimentelle Agentenfunktionen" im Menü KI-Komponenten verfügbar werden. Glücklicherweise kann diese Funktionalität freiwillig ein- und ausgeschaltet werden, sie ist nicht standardmäßig aktiv.
In Microsofts Beispiel ermöglicht die KI-Agentenfunktion beispielsweise, dass ein Benutzer den KI-Agenten bittet, online eine Pizza für ihn zu bestellen. Der KI-Agent kann dann einen Webbrowser öffnen, die richtige Pizzeria finden, die Kreditkartendaten und die Adresse des Benutzers eingeben, und die Bestellung kann kurz darauf geliefert werden. Das hört sich eigentlich gut an und scheint bequem zu sein, aber wie Microsoft einräumt, birgt diese Funktionalität auch Sicherheitsrisiken - und das ist eines der größten Probleme mit dem gesamten Konzept des "agentenbasierten Windows".
Die neuen KI-Agentenfunktionen, die sich noch in der Testphase befinden, könnten auch die Systemleistung und die Sicherheit beeinträchtigen, so Microsoft. Die Leistung ist eine Sache, mit NPU-basierter Beschleunigung ist sie nicht so sehr ein Problem, aber die Sicherheit ist ein viel größeres Problem - weshalb das Konzept des KI-Agenten-zentrierten Windows in den letzten Tagen so viel Aufsehen erregt hat. KI-Agenten können Schwachstellen und Sicherheitslücken in ihrer Arbeitsweise ausnutzen, die von vorbereiteten Angreifern nicht oft ausgenutzt werden.
Eine der Bedrohungen ist der so genannte Cross-Promt-Injection-Angriff, bei dem verschiedene Eingabeaufforderungen indirekt in die Ansicht des KI-Agenten eingeschleust werden können, z. B. in eine Datei, eine E-Mail oder einen anderen Ort, den der KI-Agent während seiner Arbeit besucht. Diese versteckten Aufforderungen können die ursprünglichen Anweisungen des KI-Agenten abändern und dazu führen, dass er Aktionen ausführt, die der Benutzer ihm nicht aufgetragen hat, und so den Willen des Angreifers erfüllt. Angreifer könnten mit gut versteckten und gestalteten Aufforderungen den KI-Agenten dazu verleiten, bösartigen Code herunterzuladen und auf dem System zu installieren, oder sogar die Innovation nutzen, um Kreditkartendaten oder andere schändliche Aktivitäten preiszugeben.
Nach Angaben von Microsoft arbeiten KI-Agenten in ihrem eigenen "Agentenarbeitsbereich", einem Arbeitsbereich mit eingeschränkter Funktionalität. Wenn Windows einen KI-Agenten für eine Aufgabe erstellt und ihm Zugriff auf diesen Arbeitsbereich gewährt, erhält der Agent eingeschränkten Zugriff auf bestimmte Dokumente, aber seine Aktionen werden protokolliert und können abgerufen werden, und er arbeitet getrennt vom System. Der Benutzer kann genau kontrollieren, welche Vorgänge während der Tätigkeit des jeweiligen KI-Agenten stattgefunden haben. Der eigene Arbeitsbereich der KI-Agenten ähnelt der Funktionalität der Windows-Sandbox, aber im Gegensatz zur Windows-Sandbox sind die KI-Agenten auch dann präsent, wenn sie nicht mit ihren Aufgaben beschäftigt sind.
Standardmäßig haben diese Agenten Lese- und Schreibzugriff auf die Ordner "Musik", "Videos", "Bilder", "Desktop" und "Download", aber sie unterscheiden sich in ihrer Funktionalität: Jeder Agent erhält die für die von ihm durchgeführten Aufgaben erforderlichen Berechtigungen. Das hört sich insgesamt gut an, aber die Anfälligkeit ist immer noch ein Problem, und es werden definitiv Schutzmethoden gegen Cross-Prompt Injection und Prompt Injection basierte Angriffe benötigt. Bis zu einem gewissen Grad ist die Tatsache, dass diese KI-Agenten über getrennte Konten verfügen, um unterschiedliche Aufgaben zu erfüllen, auch ein Schutz, aber das Risiko einer Anfälligkeit besteht nach wie vor, und es werden beruhigende und wirklich praktikable Maßnahmen benötigt.
